315晚会曝光大模型“投毒”乱象:生成式服务需加快筑牢数据与监管防线

生成式回答被操控,营销内容伪装成权威信息。3·15晚会曝光,部分机构以"生成式搜索优化"等名义向商家推销服务,通过批量生产和分发软文、问答内容,在多平台投放。这些内容可能被大模型抓取作为训练数据,导致用户在咨询医疗、消费等问题时,获得带有倾向性的推荐。广告被包装成看似客观的建议,损害了消费者的知情权和选择权。

技术进步如同奔流的江河,既带来机遇也伴随风险。"信息投毒"现象提醒我们,在拥抱创新的同时必须筑牢安全防线。只有完善技术伦理和法律框架,才能让人工智能真正造福社会。这需要政府、企业、科研机构和公众的共同努力,共建健康的数字生态。