近期，生成合成技术带动的“拟真内容”在网络平台快速扩散，一些画面以逼真叙事、强情绪冲击为卖点，易在短时间内形成传播峰值。另外，个别网络账号在发布合成信息时不按规定添加标识，甚至借此编造事件、移花接木、假冒身份，造成“真伪难辨”的信息环境，破坏网络生态。 问题：合成内容不标识、虚构摆拍、假冒公众人物与涉企谣言等乱象交织。网信部门通报的案例显示，部分账号将合成画面包装为“高铁救婴”“拆弹救人”“事故现场”等故事或突发事件，以猎奇、煽情方式博取流量；有的利用换脸、声音克隆等手段假冒运动员、演员、主持人、企业家等公众人物发表不实言论，或未经授权售卖“送祝福”“拜年”视频牟利；还有的编造火灾等事故现场影像，炒作灾情、扰乱秩序；更有甚者面向未成年人受众“魔改”动画角色，传播低俗、血腥惊悚内容，侵害未成年人身心健康；同时，个别账号和网店传播、售卖去除合成信息标识的教程和工具，试图绕开治理要求，形成灰色交易链条。 原因：一是流量竞争加剧，部分账号以“情绪叙事+高仿真画面”制造爆点，通过点击量、打赏、带货等方式快速变现，诱发铤而走险。二是技术门槛降低，合成工具易得、制作成本下降，使得不实内容规模化生成与分发成为可能。三是部分平台审核与标识管理仍需加固，个别环节对合成内容识别、溯源、提示不够及时，给违规内容传播留下空间。四是灰产驱动明显，去标识服务和教程迎合违规需求，推动“生成—包装—分发—变现”的链条化运作。 影响：从社会层面看，无标识合成信息混入日常资讯，削弱公众对真实信息的判断能力，扰乱舆论场秩序，增加突发事件中的谣言风险与治理成本；从市场层面看，涉企虚假信息可能引发消费者误解与投资者情绪波动，损害企业品牌与声誉，甚至被用于抹黑竞争对手、干扰正常经营；从未成年人保护角度看，低俗惊悚内容借助热门形象传播，容易对价值观与心理健康造成不良影响；从治理生态看，去标识教程与工具传播，直接冲击标识制度权威，导致“看得见、管得住”的治理基础被削弱。 对策：网信部门已督促网站平台深入排查整治，依法依约处置账号13421个，清理违法违规信息54.3万余条，并对典型案例公开通报，释放从严治理信号。下一步将对无标识的虚假不实信息保持高压态势，坚持发现即处置，严厉打击违规行为。对内容平台而言，应深入压实主体责任，完善合成信息标识提醒、内容审核、账号信用与分级处置机制，强化对热点事件、突发灾情、涉企信息等高风险场景的核验提示；对灰色交易链条，要强化对售卖去标识服务、传播规避教程的综合治理，做到线上线下一体打击。对内容创作者而言，按规定主动标识合成信息、避免以虚构内容误导公众，是底线要求；对公众而言，也需提升识别意识，面对“过度逼真、过度戏剧化”的爆款内容保持审慎，通过权威渠道核验信息来源。 前景：在技术快速迭代背景下，合成内容治理将更加注重“标识可见、来源可溯、责任可追”。上海已启动多部门联合的“整治涉企虚假不实信息”专项行动，聚焦利用技术手段生成传播涉企虚假信息、误导认知、损害企业形象声誉、抹黑攻击竞争对手等问题，由网信与公安网安部门合力推进，强调打击典型案件、斩断不当牟利链条，力争实现标本兼治、打防结合、净化生态。可以预期，围绕合成信息标识、账号信用约束、行业自律与联合执法的组合拳将持续加力，推动形成更清晰的规则边界与更稳定的网络秩序。
AI技术是把双刃剑。在为内容创作带来便利的同时，也为虚假信息的制造提供了新工具。当前的关键是建立健全的治理体系，既要通过严格执法打击违规行为，也要通过标识规范引导创作者自律，更要通过提升公众媒介素养增强辨别能力。只有政府部门、平台企业、内容创作者和广大网民形成合力，才能真正守护网络生态的清朗，让AI技术在阳光下造福社会。