问题:从“插入搜索广告”到“改写对话答案” 近年来,智能对话产品逐渐成为公众获取信息的重要渠道。同时,一种名为“生成式引擎优化(GEO)”的商业服务迅速兴起。315晚会曝光显示,部分从业者以“提升曝光率”“增加推荐概率”为卖点,通过批量发布内容、伪造引用来源、制造虚假口碑等手段影响模型输出。当用户询问“哪家餐厅好”“哪所学校更优”等问题时,得到的答案可能并非客观信息,而是经过商业化“设计”的推荐。这种操作本质上将广告和营销植入对话中,以更隐蔽的方式争夺用户注意力。 原因:新入口催生灰色操作 首先,流量迁移引发“排名焦虑”。研究显示,随着对话式检索工具的普及,传统搜索的部分流量正转向新工具,品牌和商家新入口中争夺曝光”的意愿增强。其次,技术门槛被降低。一些服务商将关键词布局、话术包装、内容分发等手段标准化,甚至提供“定向问题匹配”等方案,使营销更具隐蔽性和规模性。第三,监管规则尚不完善。对话式输出常以“建议”或“汇总”形式呈现,广告属性不易识别,现有规则在广告标识、数据披露和责任界定上仍需细化,为灰色操作提供了空间。 影响:误导用户、破坏公平竞争 其一,损害消费者权益。用户往往将对话答案视为“中立结论”,一旦被商业内容影响,可能在教育、医疗、金融等高敏感领域做出错误决策。其二,扰乱市场秩序。通过“投喂”内容获取推荐的行为挤压了合规经营者的展示空间,形成劣币驱逐良币的局面。其三,削弱平台公信力。失真的答案可能引发投诉纠纷,增加虚假宣传的认定难度,甚至助长谣言传播。其四,数据污染具有长期影响。虚假信息一旦进入训练数据,可能被反复引用,导致偏差累积。 对策:构建全链条治理体系 解决该问题需要平台、监管部门和行业共同努力: ——明确标识机制。对商业推广内容应提供醒目提示和可追溯说明,让用户清晰识别信息属性。 ——加强数据源管理。平台可通过可信来源白名单、引用校验等手段,提高对虚假内容的识别率;对高风险领域引入更严格的审核机制。 ——落实责任与执法。针对伪造评价、虚构背书等行为,应明确法律责任,推动广告法和反不正当竞争法在新场景下的适用;对严重违规者实施跨平台联合惩戒。 ——引导合规发展。鼓励企业通过提升服务质量、优化信息呈现等方式获得曝光,推动市场向“真实竞争”转变。 前景:规范化是必然趋势 智能对话产品重塑了信息获取和商业传播的方式。未来,合规营销、权威信息库建设将成为重要课题;而若灰色操作得不到遏制,将损害平台信誉并增加社会信息甄别成本。随着监管完善、技术进步和公众媒介素养提升,行业有望从“隐蔽操控”转向“透明合规”,在清晰边界内实现可持续发展。
当技术创新与商业利益在AI领域碰撞,如何确保机器输出的真实性成为关键问题;315晚会的曝光不仅揭示了行业乱象,也为技术伦理敲响警钟。在追求效率的同时,行业需牢记:任何改变信息传播规则的技术,必须以守护真相为底线。