利用深度合成技术散布虚假信息两人被依法处罚 中央网信办重点整治AI造谣乱象见实效

近期,山西省网信办与公安机关联合行动,依法查处两起利用技术手段编造、传播网络谣言的违法案件,引发社会广泛关注。

问题显现:虚假信息扰乱社会秩序 12月12日,晋城市阳城县网信办巡查发现,网民“静沐※※”在短视频平台发布所谓“析城山隧道塌方致5人遇难”的视频,经核查确系伪造。

无独有偶,忻州市网民吴某某在12月13日当地发生3.4级地震后,通过自媒体账号散布“6级地震造成严重灾情”的虚假信息,并附有技术合成的灾害现场视频。

两则谣言均在网络平台快速扩散,造成不良社会影响。

原因剖析:流量驱动与技术滥用 调查显示,涉事人员均承认出于“博取关注、吸引流量”目的,利用技术工具生成虚假内容。

骈某通过技术合成事故文案及视频,单条播放量达1.5万次;吴某某在明知信息失实情况下仍恶意传播。

此类行为暴露出部分网民法律意识淡薄,同时反映出深度合成技术被滥用的风险。

社会影响:挑战公共安全与信任基础 虚假信息不仅引发公众恐慌,更消耗行政资源。

阳城县交通运输局、地震部门被迫启动应急核查机制,公安机关投入大量精力溯源取证。

专家指出,此类行为破坏网络生态,削弱社会信任体系,尤其在天灾人祸等敏感领域可能引发连锁反应。

依法整治:强化监管与技术治理 目前,骈某、吴某某分别被处以10日与3日行政拘留。

案件处理依据新修订的《治安管理处罚法》及《互联网信息服务深度合成管理规定》,明确禁止利用技术手段制作传播违法信息。

山西网信部门表示,将持续开展“清朗”专项行动,通过技术监测、联合执法等手段打击网络谣言。

未来展望:构建综合治理长效机制 业内人士建议,需从三方面发力:一是完善法律法规,明确技术应用边界;二是压实平台主体责任,建立谣言溯源与快速辟谣机制;三是加强公众媒介素养教育。

随着《深度合成管理规定》等新规落地,我国网络空间治理正迈向“技术+法治”双轨并进的新阶段。

网络空间不是法外之地,技术创新更不意味着责任稀释。

对灾情事故类谣言依法严惩,是对公共秩序的维护,也是对真实信息传播环境的守护。

守住“不造谣、不传谣”的底线,压实平台与技术环节责任,形成部门协同与社会共治合力,才能让技术更好服务于公共利益,让网络生态更加清朗有序。