网信部门集中整治无标识AI虚假信息 处置账号超万个清理违规内容五十余万条

问题——近期,部分网络账号在发布合成内容时未按要求标识,甚至通过虚构事件、冒名顶替、灾情炒作等手段制造"爆款",造成公众误判;一些内容通过拼接图片、换脸配音、剧情编造等方式包装成"现场直击"或"真实经历",在社交平台快速扩散;还有账号将未成年人喜爱的动画角色进行低俗、暴力改编;个别账号公开分享、售卖"去水印""去标识"教程与工具,形成规避监管的灰色链条。网信部门已对涉及的问题开展集中治理,通报了一批典型案例。 原因——一是流量驱动下的逐利冲动。合成技术降低了内容生产成本,一些账号用低成本虚构内容换取高点击、高转发,进而实现广告变现或带货引流。二是规则意识淡薄。部分创作者对标识义务、肖像权边界缺乏认识,抱有"只要不被发现就能获利"的侥幸心理。三是平台审核面临挑战。合成内容形态多样、传播速度快,加上跨平台搬运、二次剪辑,导致识别难、溯源难、处置难。四是"去标识"工具扩散,客观上助长违规内容逃避识别,削弱了标识制度的约束力。 影响——未标识合成内容混入信息流,直接侵蚀网络内容可信度,扰乱舆论秩序。虚构"救人""事故"类内容易引发社会恐慌与错误认知;冒用公众人物形象发布不实言论或售卖"祝福视频",损害当事人权益,破坏商业诚信;对公共事件的恶意编造可能干扰应急信息传播,带来现实风险;针对未成年人喜爱角色的低俗暴力改编,可能诱导不良价值观,影响未成年人心理健康。更需警惕的是,"去标识"服务产业化将标识制度的提醒功能消解,放大治理成本,破坏网络生态。 对策——网信部门督促网站平台开展排查整治,依法依约处置违规账号13421个,清理违法违规信息54.3万余条。整治重点集中在五类问题:其一,利用虚构"感人故事""猎奇事件"博取流量而不标识合成属性;其二,以换脸、声音克隆等方式假冒公众人物,发布不实言论或未经授权牟利;其三,发布虚假灾情画面,恶意编造、炒作事故;其四,针对未成年人传播低俗暴力内容,宣扬不良价值观;其五,传播或售卖去除标识教程、软件及服务。这些处置举措旨在压实平台主体责任,斩断灰色链条,推动合成内容"可识别、可追溯、可约束"。 下一阶段将继续坚持"发现即处置"的态势:对无标识的虚假信息从严查处,对冒用身份、侵权牟利、炒作公共事件等行为依法打击;同时推动平台完善标识提醒、内容审核、账号管理与申诉机制,提升对合成内容的识别与处置效率。对内容创作者而言,主动规范标注、守住真实底线,是避免误导公众、维护自身信誉的必要前提。 前景——随着合成技术演进,网络内容生产将更加便捷,也更考验治理体系的前瞻性。可以预见,围绕合成内容标识、公众人物权益保护、未成年人网络保护以及平台算法推荐的规范化要求将继续强化。只有把制度约束、技术识别、平台治理与行业自律协同起来,才能在鼓励创新的同时有效遏制"以假乱真"的传播,让网络空间回归真实与有序。

在信息技术发展的今天,真实性与责任感仍是网络空间的基石;此次专项整治既是对当前乱象的集中出击,也是对"技术向善"原则的坚守。构建清朗网络环境需要监管部门持续发力,更需要每个参与者恪守底线。唯有真实,方得长久;唯有诚信,方能致远。