问题：合成内容“以假乱真”，从侵权走向诈骗 2月26日，演员王劲松在社交平台发声称，其声音与面部形象被恶意盗用：原本用于公益宣传的旧视频被剪辑、替换后，变成推介不明平台的广告内容，并夹杂大量普通受众难以辨识的专业术语；王劲松表示，家人起初也未能及时识别异常。平台随后对对应的内容进行了删除处理，但内容制作者与传播链条仍未完全浮出水面。 类似情况并非个案。此前，演员靳东曾遭遇被冒名行骗事件，有不法分子针对中老年群体实施“情感诱导+转账”套路，甚至诱导受害者产生高额借贷冲动；去年11月，演员温峥嵘也公开反映在不知情情况下“被直播带货”，并遭遇账号拉黑、仿冒账号反复出现等情况。多起事件共同指向一个现实：合成技术门槛降低后，名人形象被滥用的风险显著上升，且容易外溢至普通受众，造成财产损失与信任受损。 原因：技术扩散与黑灰产链条叠加，治理存在“时间差” 一是深度合成工具易得、操作简化。当前图像、语音合成与视频生成能力快速普及，从采集素材到生成“像真”的音视频，成本更低、速度更快，极大降低了违法成本。 二是黑灰产逐利推动“内容工业化”。一些团伙通过批量生产短视频、伪直播、仿冒账号矩阵，在多平台投放引流，以“权威背书”“熟人效应”提升转化率，形成从制作、投放到收款的链条化运作。 三是跨平台传播加大处置难度。仿冒内容一旦被下架，很可能迅速在其他平台或新账号“换壳再生”；同时，服务器、收款通道、账号注册等环节可能跨地域甚至跨境分布，给溯源打击带来难度。 四是公众识别与证据留存不足。部分受众尤其是老年群体更容易基于熟悉面孔与声音建立信任，在“限时优惠”“情感承诺”等话术刺激下作出非理性决策；而受害人事后取证、固定传播链条、追踪资金流也面临门槛。 影响：侵权、诈骗与信任危机叠加，扰乱市场秩序 首先，冒用肖像与声音直接侵害个人合法权益，造成名誉受损与公众误解，演员等公众人物还可能因“被代言”“被带货”而承受舆论压力。 其次，深度合成与直播伪造一旦与带货、金融借贷、医疗保健等高风险场景结合，容易诱发更大规模的财产损失，尤其对风险识别能力较弱的群体危害更突出。 再次，此类乱象破坏正常网络生态与消费秩序，挤压合规经营者空间，增加平台审核与社会治理成本；长期看，还会侵蚀社会信任基础，导致“看什么都不敢信”的传播环境，影响公共信息的有效触达。 对策：技术、平台、法律与社会协同发力，形成闭环治理 在技术层面，应加快推广合成内容识别与溯源手段，对疑似深度合成视频进行风险标注与拦截；推动数字水印、内容指纹、可信时间戳等技术应用，提升“可追踪、可核验、可举证”的能力。 在平台层面，需深入压实主体责任，完善账号实名与分级管理机制，对高风险领域（金融、医疗、保健品、投资咨询等）提高准入门槛与资质核验强度；对仿冒账号和“矩阵式”重复违规建立联动封禁与黑名单共享机制，缩短处置链路，防止“下架即再生”。同时优化举报与申诉通道，提升对当事人、权利人的快速响应能力。 在执法与司法层面，建议强化对“深度合成+诈骗”复合型违法的打击力度，推动对关键环节的穿透式追查，重点围绕素材来源、制作发布者、推广渠道、资金收付通道等进行链条治理；完善取证规则与跨平台协作，提高追赃挽损效率，增强违法成本。 在社会层面，应持续开展针对老年人等重点群体的反诈宣传，推动社区、银行网点、运营商与平台共同设置风险提示：凡涉及转账、借贷、投资、购买高价产品等行为，应坚持“先核实再操作”，通过官方渠道核验账号资质与品牌授权；家庭成员可协助设置支付限额、开启来电与短信反诈提醒，降低冲动决策概率。 前景：以规则与技术追赶创新速度，重建“可验证的信任” 深度合成并非原罪，其在影视制作、教育传播、无障碍服务等领域具有正当应用空间。关键在于明确边界、压缩滥用空间。随着识别模型、溯源体系与平台治理机制健全，合成内容“来源可查、传播可控、责任可追”的治理格局有望加快形成。但也应看到，技术演进仍在加速，监管与治理必须持续迭代，形成动态更新的标准体系与协同机制，才能有效应对黑灰产的对抗升级。
当技术跑在规则前面，社会付出的不只是经济代价，更是人与人之间的信任成本。从明星维权到全民防诈，这场数字时代的身份保卫战既需要法律亮剑、科技赋能，也需要每个人保持理性判断。正如王劲松在声明中所言："技术进步不应成为照见人性阴暗面的镜子，而该是照亮诚信社会的火炬。"如何在创新与风险之间找到平衡，将是数字化治理长期面对的核心命题。