问题:深度合成“冒名发声”扰乱信息秩序并侵害个人权益 霍启刚在个人社交账号发文反映,近期频繁发现以其样貌、声线为基础合成的短视频在网络传播,相关内容并非其本人观点,具有较强迷惑性,“连同事观看一段时间才辨认出系合成制作”。
其还提到,曾出现账号将其涉港表述进行二次剪辑包装,用于所谓“香港移民渠道”等营销宣传,担忧公众因此误信并造成财产损失。
此外,他在内地考察返程时曾于高铁站见到自身肖像被用于某品牌门店门面展示,称与该品牌并无关联。
霍启刚表示,过去半年随着相关技术工具普及,侵权与假冒内容明显增多,已累计处理数千条,并安排专人每日投诉反馈,但仍不断出现新内容。
原因:技术门槛下降叠加流量驱动,侵权成本低与取证难并存 业内人士指出,深度合成技术快速迭代,使“以假乱真”的音视频生成更易获得、更便宜可得,一些不法分子据此批量制作“名人带货”“权威解读”“政策速递”等内容,借名人或公众人物背书牟利。
与此同时,部分账号围绕热点议题剪贴拼接、断章取义,甚至将合成内容嵌入营销链条,形成从引流到转化的灰色路径。
更值得关注的是,侵权行为往往跨平台、跨账号分散发布,传播链条短平快;权利人面临识别、取证、投诉、下架等多环节成本,且侵权者易“换号重来”,导致治理呈现反复性与消耗性。
影响:损害个人名誉与商业权益,放大诈骗风险并削弱社会信任 一是直接侵害人格权益与声誉。
深度合成内容若夹带立场表达、涉敏观点或不实信息,易造成公众误解,影响当事人社会评价与正常履职交流。
二是扰乱市场秩序。
冒用肖像用于门店宣传、账号营销,可能构成不正当竞争与虚假广告,误导消费者并侵害合法品牌与代言秩序。
三是加剧电信网络诈骗与非法中介活动风险。
以“移民渠道”“投资理财”“培训办证”等为包装的内容,一旦借助公众人物形象提升可信度,可能诱导受众转账付款,造成财产损失。
四是冲击网络空间信任基础。
公众对音视频真实性的判断成本上升,社会信息传播的可信链条被削弱,进而影响公共议题讨论质量。
对策:以法治为牵引压实平台责任,形成技术治理与社会共治合力 治理深度合成虚假信息,需要在现有法律制度与治理框架下进一步细化落实、提升执行效率。
其一,强化平台主体责任与处置时效。
对疑似冒名合成内容建立更敏捷的识别、标注、限流、下架与复核机制,完善权利人快速投诉通道,推动“发现即核验、核验即处置”的闭环;对多次侵权账号实施更严厉的梯度惩戒,减少“反复发布、反复投诉”的消耗战。
其二,推动技术可追溯与显著标识。
完善深度合成内容的显著提示规则,探索在生成环节引入可验证水印、指纹与来源标记,提升取证效率与跨平台协同处置能力,让“伪造成本”高于“违规收益”。
其三,加大执法打击与联合惩治力度。
对以合成音视频实施诈骗、敲诈勒索、非法经营等行为依法从严惩处;对组织化、产业化“内容工厂”式侵权,推动线索共享与联合执法,形成震慑。
其四,提升公众媒介素养与反诈意识。
对“名人突然推荐”“权威口吻带节奏”“承诺高收益高回报”等内容保持警惕,通过官方渠道核验信息来源,涉及转账、签约、缴费的事项更应多方核实,避免因轻信造成损失。
前景:从“被动删帖”转向“源头治理”,以规则与技术共同守护真实 随着生成式内容工具持续普及,深度合成带来的“真伪混杂”将成为网络治理的长期课题。
业内普遍认为,未来治理重点将从单纯处置个案,转向更系统的源头约束与全链条追责:在生成、发布、传播、变现等环节同时设防;在权利保护、商业合规与公共安全之间建立可执行的边界;以更清晰的责任划分与更高效的跨平台协同,维护公民合法权益和清朗网络空间。
当技术双刃剑效应日益凸显之际,霍启刚事件不仅是个体维权的典型案例,更是数字文明时代的重要警示。
在人工智能加速重塑信息生态的今天,如何平衡技术创新与权益保护,既考验立法者的智慧,也需要平台、技术开发者和公众的共同参与。
唯有构建起技术向善的制度堤坝,才能真正释放科技进步为人类社会带来的红利。