AI助手现在也有了它的“职业杀手”,GEO是其中一种软件。大家平时用AI问问哪个手环最好,它给出的推荐真能信吗?其实那些所谓的专业推荐很多时候都是假的,完全是被人操纵的结果。这次3·15曝光了一件事,叫“喂毒”,就是用假内容给AI输入数据,来改变它的判断。 记者发现了一个神秘的GEO服务,它声称是优化AI内容,但实际上是给AI喂假数据。只要付钱,就能让你家的产品在AI回答里排第一。这种“投毒”已经形成了一个工业级的产业链。从业者说这个逻辑很简单:AI依赖网络数据训练和检索,所以只要把大量虚假内容放到网上,就能欺骗AI。 一位GEO公司的负责人直言不讳:“我们不是做广告,是给AI喂料。”他解释说,“喂得越多、角度越全,AI就越信这是事实。”记者亲身体验了一次这个过程,只花了几分钟就生成了十几篇虚假软文。软件自动在多个自媒体平台上发布这些内容。 短短两个小时后,某个主流AI大模型在回答虚构产品时,一字不差地复述了那些虚假信息。这种情况并不罕见。记者投放了11篇不同角度的伪造内容后,多个AI平台在回答智能手环推荐时把这个不存在的品牌排进了前列。 这些虚假信息不仅能捧自己的产品,还能用来踩对手的产品。有负责人承认:“大品牌竞争激烈时就会给对手投毒。”这种产业链背后是一个庞大的发稿生态系统,低质网站和自媒体矩阵不停地发布这些假消息。 专家担心公众对智能时代的信任根基会被摧毁。相关部门已经注意到这种风险。专家呼吁加强对AI训练数据源的审核机制,建立内容溯源与可信度评估体系。 否则,“AI围猎战”只会愈演愈烈。我们还敢相信AI吗?