2022年的江西，一位六旬老太天天看“靳东”发来的视频，以为在谈感情。骗子用AI造了他的声和像，等到“靳东”说拍戏缺钱让她贷200万时，她去银行取钱不成崩溃大哭才发现上当。这笔钱没被骗走，但那份信任彻底碎了。后来靳东在2024年的讨论会上感叹，骗子连受害者的情感寄托都毁了，那种无力感谁都懂。 同样在2022年，公安部反诈中心的数据显示，AI诈骗案里六十岁以上的受害者占了72%，平均单案损失超15万元。 到了2025年11月，温峥嵘拍戏时无意中看到自己在“直播”——AI做的形象24小时推销三无产品。粉丝买东西过敏还骂她，团队一天要举报五十多个号，平台删了新号又注册好接着上。更惨的是有人反咬她是炒作，她不得不开直播自证清白，被迫证明自己不是自己。 这种黑色产业链成本低、分工细、跨境作案。2026年1月法院判平台赔了温峥嵘五十万元，创下虚拟形象侵权赔偿的先例。这五十万连犯罪成本的零头都不到。 2026年3月，王劲松开发了“AI鉴伪工具”，能识别98%的合成视频并向公众免费开放。他说我们阻止不了技术进步，但要提升大众的数字免疫力。 还有人用已故老人的声音打电话给家属要“丧葬费”。多地社区只好开“银发数字课堂”教老人鉴别真假。 王劲松录制的那段禁毒视频被AI换脸后效果非常逼真，连他自己和家人都没认出来。那个“他”穿警服、表情严肃，说的全是金融术语。直到2026年2月他看到视频才发现不对劲——那是张自己的脸和声音，可那些话他从未说过。六年前他以为自己在做公益，没想到素材被人喂给了AI模型，成了虚假平台的代言人。 这种荒唐事不止一件。同时间李连杰、姚明、唐国强的形象也被用来推销理财。算法把内容精准推给中老年用户——那个年龄层的人对这些脸很信任。 有个平台打着央企旗号卷走了2亿元。更早的时候，“靳东”说拍戏缺资金希望支持她的六旬老人去银行办理贷款200万手续没办下来崩溃大哭才引起警觉。 王劲松找了家科技公司一起开发工具来分析光影细节和语音频谱识别深度伪造内容。测试显示工具识别出了98%的AI合成视频并在2026年3月向公众免费开放代码也随之开源。 靳东则在两会上提交了关于AI立法监管的提案建议强制所有AI生成内容添加不可删除的水印推动平台连带追责将AI识别纳入中小学课程。 王劲松事件后有调查显示超过六成网民对视频真实性产生怀疑甚至开始拒绝相信明星的官方声明某医院患者因AI合成语音误判病情拒绝手术某企业因一段伪造CEO宣布破产的视频员工集体维权这种怀疑从屏幕里蔓延出来了。 温峥嵘在2025年11月拍戏间隙无意间刷到了自己的“直播”——AI合成的动态形象24小时不停歇地推销三无面膜和劣质保健品买了东西过敏的粉丝转头就在评论区骂她团队每天举报五十多个账号平台这边删了那边新号已经注册好凌晨上线循环往复更让人心寒的是部分账号开始反咬说她是在自导自演炒作她不得不开直播自证清白一个人被迫向公众证明自己不是自己这件事没有一个干净的结局2026年1月法院判决某平台赔偿她经济损失五十万元开了虚拟形象侵权赔偿的先例五十万那条黑色产业链从模型训练到账号运营跨境作案分工精细这五十万大概连犯罪成本的零头都不到根据2026年公安部反诈中心的数据AI诈骗案件里六十岁以上的受害者占比达到了72%平均单案损失超过15万元有案例显示骗子用AI合成了已故老人的声音打电话给家属索要丧葬费这已经越过了普通诈骗的边界它在碰一些更深的东西——死亡哀恸家人的声音这种技术被用在这里让人说不出话来多地社区随后开设了银发数字课堂教老人辨别AI视频核实账号真实性这是好事也是无奈之举用培训来对抗一个工业化运作的犯罪体系像是拿雨伞挡洪水王劲松在遭遇侵权之后做了一件有点意思的事他找了一家科技公司一起开发了一个AI鉴伪工具通过分析视频里的光影细节微表情和语音频谱来识别深度伪造内容测试中这个工具识别出了98%的AI合成视频并在2026年3月向公众免费开放代码也随之开源他把这件事解释得很平实我们不能阻止技术进步但可以提升大众的数字免疫力没有义愤填膺没有苦大仇深只是做了一件事靳东则在2026年两会上提交了关于AI立法监管的提案建议强制所有AI生成内容添加不可删除的水印推动平台连带追责将AI识别纳入中小学课程他说他学习AI不是为了跟风而是想搞清楚骗子怎么用它才能告诉别人怎么防王劲松事件之后有调查显示超过六成的网民对网络视频的真实性产生了怀疑甚至开始拒绝相信明星的官方声明某家医院有患者因AI合成语音误判病情拒绝了手术某家企业因为一段伪造CEO宣布破产的视频员工集体维权这种怀疑已经从屏幕里蔓延出来了王劲松在采访里说了一句话值得记一下AI可以模仿声音却模仿不了真心这句话是真的也希望它一直是真的。