2月12日，豆包旗下的视频生成模型Seedance2.0正式推出了，这个新版全面上线后，立马执行了非常严格的限制措施，不准生成明星、公众人物或者网红的真实照片、视频或者声音。法治日报律师专家库的成员、北京市康达律师事务所的合伙人罗娟提到，滥用AI换脸还有声音克隆的行为，主要跟民法典第一千零一十八条关于肖像权的保护以及第一千零二十四条关于名誉权的保护有关。没经过人家同意就把人家的照片或者声音拿去商用，那就是直接侵犯了人家的肖像权；要是生成的内容是假的还误导别人（比如虚假代言或者不当言论），那肯定会损害别人的名誉权。这事儿闹得挺大。 很多演员都曾经被AI换脸骗过。就在这次全国两会上，大家聊起怎么对付AI做的虚假换脸的时候，甄子丹说了，“诈骗的事儿必须得报警，咱们国家是讲法律的，所有违法的东西都能去投诉举报。” 靳东也说了，AI换脸不光用在短剧里，不少人都因为这个被网络诈骗给坑了。他说，“有些喜欢我影视剧的观众，被AI换脸视频骗得很惨，性质特别恶劣。希望以后能有更好的规则管管。” 说到“AI换脸”，其实好几个演员都当过受害者。之前有网友在社交平台上说，一部叫《京华风云》的短剧，里面的演员脸长得跟肖战太像了，就连穿的衣服造型也跟肖战在《藏海传》里的扮相特别像。还有演员成毅也遇到过类似的情况，他的脸被人擅自拿去做短剧和短视频了，这事当时还引发了粉丝抗议。 直到3月23日这天，霍启刚在他的社交账号上发了个帖子说，自己真是被困扰死了。他在文章里说：“就在上周末吧，我又发现了好多盗用我形象的AI视频。他们把我的声音提取出来了，还利用我的样子去做短视频。”但问题是，“里面的内容根本不是我自己的观点。就连我的同事看了半天都没反应过来是AI生成的。” 霍启刚表示很担心大家会被误导。“甚至还有一些账号直接用我之前说的关于香港情况的话去做二次剪辑，用来宣传香港移民这种事儿。我真怕有人因为这个上当受骗损失钱。” 他说自从半年前AI技术变得这么普及之后，“这类情况越来越夸张了。”到现在为止他已经处理了好几千条假内容了，“还要专门安排人来跟进。” 他天天都在投诉反馈，“可每天还是有大量类似的新东西冒出来。”霍启刚表示自己实在是挺烦的。“评论区里也有很多网友直言说确实很难分辨。”