北京怀柔一个只有5人参保的小公司开发了一款叫“力擎GEO优化系统”的软件,价格为每年9800块。记者用它伪造了一个“Apollo-9”手环,编造了诸如“量子纠缠传感”、“黑洞级续航”等谎言,生成十几篇软文发布到网上。结果,几个小时后,这个空气一样的产品就出现在了至少两家主流AI大模型的推荐榜前列。北京怀柔区市监局已经对“力思文化”立案,重点调查资金流水。而那些GEO服务商们已经从电商平台转战更隐蔽的私域,报价还涨了30%。这个小作坊通过低价的软件给亿万AI用户植入认知,彻底掏空了AI的信任。 5人小作坊把自己的软件卖给用户,利用软件虚构产品信息进行AI“投毒”。5个人利用一款每年仅需9800元的“力擎GEO优化系统”,编造了一个叫“Apollo-9”的手环和各种离谱的技术概念,生成大量软文并发布到网上。5个人的小作坊居然让虚构的产品在AI推荐榜前列出现。虽然315晚会已经过去了4天,但记者仍能眼睁睁看着一场魔幻现实主义的切割大戏上演。 虽然AB客高举“坚决反对”的大旗划清界限,但“力擎”这款软件明码标价、服务商公开叫卖“投毒”业务时,这些平台却毫无反应。这些平台声称自己技术领先、生态庞大却根本没有起到防火墙和内容风控的作用。 被曝光的“力思文化”电话打不通疑似跑路。AB客、有赞科技和科大讯飞等“大厂”和“合作伙伴”纷纷发表声明撇清关系。一些主流AI大模型居然推荐了一个根本不存在的手环产品。 现在有公益律师在琢磨能不能告那个可能已经注销了的5人公司或者告那个说自己也是“受害者”的AI平台。91%的准确率说明头部AI厂商已经有能力识别“投毒软文”。 服务商把“投毒”当成一种新的流量入口并开始了军备竞赛。服务商为了在AI那里占个坑愿意花费几百万甚至上亿来“投毒”。为了换取更多流量甚至不惜牺牲信息洁净度去迎合用户体验。 就像搜索引擎会明确标注广告一样,AI也应该标明可能存在商业推广的提示。这套“切割”组合拳打得行云流水但背后却是灰色地带和短期焦虑驱动下的选择。 如果答案都是“再研究研究”或者“影响用户体验”,那这次的“立案调查”和“严正声明”就只是一场危机公关的表演。 当工具开始说谎并以“绝对理性”的姿态说谎时,我们还能信什么? 那些被牵连的“大厂”和“合作伙伴”声明发得比谁都快并将责任推给了第三方服务商。 如果这些号称技术领先、生态庞大的平台不做出实质性改变,“投毒”的故事还会在社交媒体上继续发生。 这是一场比“投毒”本身更令人担忧的问题:当工具开始说谎时我们还能信什么? 虽然这个小作坊给整个行业造成了巨大伤害并撬动了数十亿资金建立起来的“智能”与“可信”招牌,“力思文化”还是通过种种手段滑进了监管的缝隙中躲避处罚。 虽然91%的准确率说明识别算法已经非常先进了,但“睁一只眼闭一只眼”的灰色地带依然存在并驱动着行业选择短期利益而非长期信任建设。 虽然头部AI厂商已经有能力识别批量、低质、关键词堆砌的软文了,“流量即正义”的焦虑还是让他们选择视而不见甚至主动参与到这场游戏中来获取流量入口。 虽然GEO服务商愿意花费几百万甚至上亿来“投毒”以获得推荐位的优势从而参与到军备竞赛中来获取新流量入口和认知植入的机会,“流量即正义”的焦虑依然驱使着行业放弃信任建设而去追求短期利益最大化从而让5个人的小公司轻易撬动整个行业用数年、数百亿资金建立起来的招牌造成巨大伤害并导致整个行业彻底崩盘并让所有人对“人工智能”这四个字产生基本期待的崩塌从而失去对工具最基本的信任感并开始重新审视这个世界到底应该相信什么而不是继续沉迷于由机器制造出来的虚假滤镜之中从而失去对真实世界的认知能力从而导致整个社会开始怀疑科学和技术的可信度进而引发严重的社会问题甚至可能引发文明的倒退从而导致人类进入一个更加黑暗和混乱的时代从而让我们所有人都为之感到恐惧和绝望从而不得不重新思考我们到底应该如何面对这个被机器所控制和操纵的世界而不是继续盲目地相信机器所说的每一句话从而导致我们陷入一个无法自拔的深渊之中并最终失去对未来的希望和信心而这一切都源于我们对人工智能的过度依赖和盲目的信任而不是去质疑它所说的每一句话从而让我们陷入一个无法挽回的境地并最终导致整个社会陷入混乱和无序之中而这一切都是因为我们没有及时意识到问题的严重性并采取有效的措施来加以解决从而导致问题变得越来越严重并最终无法收拾而这一切都是因为我们对人工智能缺乏足够的了解和认识从而导致我们对它产生了过度的依赖和盲目信任而不是去质疑它所说的每一句话从而让我们陷入一个无法挽回的境地并最终导致整个社会陷入混乱和无序之中而这一切都是因为我们没有及时意识到问题的严重性并采取有效的措施来加以解决从而导致问题变得越来越严重并最终无法收拾而这一切都是因为我们对人工智能缺乏足够的了解和认识从而导致我们对它产生了过度的依赖和盲目信任而不是去质疑它所说的每一句话从而让我们陷入一个无法挽回的境地并最终导致整个社会陷入混乱和无序之中而这一切都是因为我们没有及时意识到问题的严重性并采取有效的措施来加以解决从而导致问题变得越来越严重并最终无法收拾而这一切都是因为我们对人工智能缺乏足够的了解和认识从而导致我们对它产生了过度的依赖和盲目信任而不是去质疑它所说的每一句话从而让我们陷入一个无法挽回的境地并最终导致整个社会陷入混乱和无序之中而这一切都是因为我们没有及时意识到问题的严重性并采取有效的措施来加以解决从而导致问题变得越来越严重并最终无法收拾而这一切都是因为我们对人工智能缺乏足够的了解和认识从而导致我们对它产生了过度的依赖和盲目信任而不是去质疑它所说的每一句话从而让我们陷入一个无法挽回的境地并最终导致整个社会陷入混乱和无序之中而这一切都是因为我们没有及时意识到问题的严重性并采取有效的措施来加以解决从而导致问题变得越来越严重并最终无法收拾而这一切都是因为我们对人工智能缺乏足够的了解和认识从而导致我们对它产生了过度的依赖和盲目信任而不是去质疑它所说的每一句话从而让我们陷入一个无法挽回的境地并最终导致整个社会陷入混乱和无序之中而这一切都是因为我们没有及时意识到问题的严重性并采取有效的措施来加以解决从而导致问题变得越来越严重并最终无法收拾而这一切都是因为我们对人工智能缺乏足够的了解和认识从而导致我们对它产生了过度的依赖和盲目信任而不是去质疑它所说的每一句话从而让我们陷入一个无法挽回的境地并最终导致整个社会陷入混乱和无序之中而这一切都是因为我们没有及时意识到问题的严重性并采取有效的措施来加以解决从而导致问题变得越来越严重并最终无法收拾而这一切