生成式引擎优化服务引发监管思考 如何在技术创新与消费者权益间找到平衡

随着智能推荐技术深入日常生活,其背后的商业运作方式也带来新的治理难题;记者调研发现,一种名为“生成式引擎优化”的服务正在加速进入商业场景。该技术通过研究算法偏好,有针对性地植入品牌信息,使智能系统给出的推荐结果呈现明显的商业倾向。某电商平台用户向记者展示的案例显示,当询问“适合送长辈的礼物”时,系统推荐的10个选项中,有7个指向特定品牌的付费推广商品。 这种现象本质上仍是互联网时代“争流量”的延续。早在搜索引擎主导时期,就已有通过SEO抬升排名的商业操作。不同之处在于,智能推荐系统的生成过程更隐蔽,也更难解释。中国人民大学数字经济研究中心主任王军指出:“传统搜索结果依托相对明确的排序规则,而生成式系统以更接近人类表达的方式给出答案,商业植入因此更不容易被识别。” 这种新型推广方式已触及法律边界。根据现行《广告法》第十四条,广告必须具有可识别性。中国消费者协会最新调查报告显示,78.6%的受访者无法区分智能推荐中的商业内容与客观信息。更值得警惕的是,部分服务提供商为提高“命中率”,会编造虚假产品评价或篡改参数对比数据。今年3月,某智能家电品牌因虚构能耗指标被市场监管总局立案调查。 技术伦理专家提醒,商业信息的大量渗透可能造成“数据毒化”。清华大学人工智能研究院的模拟实验表明,当训练数据中商业推广内容占比超过15%时,系统输出的客观性会下降40%以上。这种影响还会被放大——被污染的基础模型在下游场景中反复调用后,误差可能呈几何级增长。 面对此新的治理课题,监管部门正搭建“三位一体”的应对体系。工信部近期公布的《生成式人工智能服务合规指引》提出:建立训练数据备案制度、完善算法影响评估机制、推行数字水印技术对商业内容进行标注。北京市率先试点“算法透明化”工程,要求主流平台按月披露推荐逻辑的关键参数。 从长远看,技术发展与规范治理需要保持动态平衡。上海交通大学人工智能治理研究所建议借鉴欧盟《人工智能法案》的做法,建立分级分类监管制度:对医疗、金融等高风险领域实行准入管理;对消费推荐等一般应用采取备案制;同时推动成立行业自律委员会,促进标准共建。

技术提升效率,也在重塑规则;生成式推荐的价值,在于帮助人们更快接近可靠信息、做出更合适的选择;治理的意义,则是避免这种价值被隐性逐利削弱。让标识更清晰、让责任可追溯、把监管前移到源头,才能在变化中守住底线、在创新中形成秩序,让技术进步更好服务公众利益与高质量发展。