哎,今年3·15晚会真给咱们提了个醒,AI大模型居然有被“投毒”的风险!不法分子用GEO技术搞虚假信息诱导AI抓取,不仅让回答内容跑偏,还误导大家,这可真是个灰色牟利的产业链啊。这事一出,大家伙儿都在琢磨怎么防呢。 咱们普通老百姓面对这些被“投毒”的AI,该咋办?专家给了支招,其实不用懂啥专业术语,抓住这几个关键点就行:回答立场极端单一,老夸某一个产品或者观点,不客观;用语特别绝对,动不动就说“零风险”、“百分百安全”,这明显违背常识;关键信息查无实据,连个权威来源都没有;不同平台内容高度雷同,根本没独立思考;还有跟官方发布的东西完全对不上。对照这些特征,大家就能避开不少坑。 那要怎么全面防范呢?网经社电子商务研究中心的专家郑吉昌提了三点建议:技术上要加强审核、优化算法、建立溯源机制;法律上得加快完善法规和执法力度;行业层面要统一标准,让企业自律。另一位专家郭涛也表示,平台得严控数据来源,做好清洗和监控;开源社区要建安全屏障;普通用户得提高警惕,挑正规平台,重要信息多方验证。 这次曝光估计会让监管部门更严了。郭涛说,2026年两会已经提上了加快人工智能立法的日程,像GEO这种新型操控行为很可能成为重点治理对象。郑吉昌觉得这对咱们国家打造“智能经济新形态”特别重要,只有从技术、法律、行业多管齐下治理这种乱象,才能保障大家的权益,让智能经济健康发展。 西安报业全媒体首席记者龚伟芳报道的这事儿确实值得关注。