一、问题：从“会说话的推荐”到“自证式误导” 近期，围绕“AI投毒”的讨论升温。有关报道显示，利用自动化工具批量生成产品软文、多平台分发后，部分具备联网检索能力的智能问答在汇总网页片段时，可能将这些内容纳入参考资料，进而在回答中对虚构商品或夸大疗效的产品作出正面评价。尤其在医疗健康、保健品、医美等高风险领域，一旦错误信息被“权威化表达”，容易引发消费者误购误用，带来经济损失乃至健康安全隐患。 需要澄清的是，公众所称的“AI投毒”多指检索环节被虚假内容“围猎”，并不等同于通过训练数据永久改变模型知识结构的“训练数据投毒”。前者更像网络内容污染在新传播形态下的集中显现：不法分子并非“污染模型”，而是“污染可被检索到的信息环境”，再借助问答产品的归纳表达放大误导效果。 二、原因：检索机制、内容生产门槛与利益驱动叠加 其一，联网检索满足时效需求，也引入内容真实性挑战。大模型知识存在时间滞后，为提升对新事件、新产品的回答能力，越来越多产品引入联网检索。检索流程往往以关键词组合抓取多来源片段，再进行压缩整合并生成答案。由于抓取内容以片段为主、来源复杂且更新迅速，一旦虚假软文在短期内被集中铺设，便可能在检索排序与片段聚合中占据“可见位置”。 其二，自动化内容生产与分发降低造假成本。近年来，低成本批量生成与矩阵化发布使虚假营销更易形成规模。过去“网页投放—搜索优化—引流变现”的路径长期存在，如今叠加智能问答的摘要与转述能力，虚假信息更容易披上“总结性、建议性”的外衣，提升迷惑性。 其三，灰色利益链向高敏感领域渗透。医疗健康消费决策高度依赖信息质量，一些无资质药品、保健品以及“三无”医美项目通过“故事化软文”“伪科普”包装，追逐高利润。智能问答若未能对来源权威性、行业资质与广告属性作出有效识别，就可能被利用为“二次背书”。 三、影响：认知风险外溢，治理压力向全链条传导 一上，公众对智能问答的信任基础可能被侵蚀。智能问答以自然语言输出，具有较强的说服力与连贯性。若回答引用了被污染的网络资料，即便只是“总结”，也会用户心理上形成“已核实”的错觉，带来认知偏差。 另一上，平台与企业合规成本上升。对内容平台而言，虚假软文的跨平台流动加大识别与处置难度；对提供联网检索能力的产品而言，需要在“信息覆盖”与“安全可信”之间再平衡，并应对医疗、金融等领域更严格的合规要求。 同时，风险可能向线下消费与公共健康延伸。一些误导性推荐一旦引发跟风购买、延误就医或不当治疗，后果不止于网络舆论层面，还会影响公共安全与社会治理。 四、对策：从“内容源头—检索链路—呈现方式—执法协同”系统施策 首先，压实内容平台主体责任，治理虚假营销“供给端”。要加强对批量注册、异常发布、矩阵分发的监测识别，完善对软文营销、伪科普内容的标注与下架机制；对涉医疗健康等重点领域，提升人工复核比例与准入审核强度，推动“资质可核验、广告可识别、来源可追溯”。 其次，优化检索聚合与引用机制，提升“可解释的可信”。提供联网检索能力的产品应强化来源分级与权威库优先原则，建立高风险领域的白名单/黑名单机制；在答案呈现中明确标注引用来源、时间与可信等级，对疑似营销内容、缺乏资质信息的结论设置提示与限制，避免以确定性口吻输出不确定信息。 再次，强化跨平台联动与执法打击，斩断灰色产业链。针对“批量生成—多平台铺设—引流变现”的链条，应推动监管部门、平台与行业组织共享线索，依法查处虚假宣传、违规广告、无证经营等行为，对屡犯主体提高违法成本，形成震慑。 此外，提升公众媒介素养与风险意识。要引导消费者将智能问答作为信息参考而非决策依据，涉及药品选择、治疗方案、医美项目等，应以正规医疗机构与权威渠道信息为准；对“神奇疗效”“绝对化表述”“单一来源反复出现”等信号保持警惕。 五、前景：从“技术竞速”转向“可信竞争” 随着联网检索成为智能服务的重要能力，信息真实性与来源可信将成为行业竞争的新门槛。可以预见，未来产品迭代将更强调权威数据接入、引用链路透明、风险分级管控与合规审查；平台治理也将从单点处置转向全链条生态治理。谁能在提升信息覆盖的同时建立可验证、可追责的可信体系，谁就更可能赢得用户信任并获得长期发展空间。
“AI投毒”现象提醒我们，技术的可信度依赖于规则、来源和责任。与其担忧工具本身，不如回归互联网内容真实性的核心问题。只有确保信息可追溯、引用可核验、违规必追责，才能在新技术的浪潮中守住社会信任的底线。