3·15曝光生成式大模型“信息投毒”黑灰产:虚假内容可被批量“喂养”,亟待系统治理

问题——从“偶发失真”到“定向投喂”,大模型幻觉显现产业化风险。近期,围绕“315”曝光的网络灰黑产线索,生成式内容优化(GEO)进入公众视野。所谓GEO,是指通过特定的内容生产与分发方式,影响生成式模型在回答问题时的引用来源与表述结论。多方信息显示,一些灰黑产团伙打着“提升曝光”“打造口碑”“压制竞品”等旗号,批量生产软文、伪评测、伪科普,并通过账号矩阵在多平台扩散,试图让有关内容进入模型训练语料或被检索系统优先抓取,从而在用户提问时输出带有明显导向的答案。由此,“幻觉”不再只是技术层面的随机误差,而可能演变为商业利益驱动的“定向失真”。

在数字化进程中,信息的可靠程度正成为衡量发展质量的重要指标。此次事件提醒我们,技术创新需要与治理能力同步提升。当技术可能被恶意利用时,只有把法律规范、行业标准、技术防护与公众教育结合起来,形成可执行的综合治理体系,才能让技术进步真正服务于公共利益。面对这场隐蔽的信息攻防,每个人都需要保持警惕,成为理性的使用者与共同的守护者。