国家安全部在3月26日透露，境外间谍开始利用AI技术伪造公务人员的不当视频。生成式人工智能技术的快速发展，让AI视频制作变得普及，它能提高创作效率，也能重新展示历史记忆，成了数字时代的一大工具。不过，这项技术一旦被坏人利用来进行金融诈骗、政治渗透、散播谣言或间谍活动，就会给公民合法权益造成损害，还可能扰乱社会秩序，危害国家安全。国安部提醒公众注意深伪技术带来的风险，这类技术可能会伪造权威人物形象，动摇社会公信力。境外敌对势力可能利用深度伪造技术捏造虚假言论、炮制公务人员不当视频还有假的政策画面，以此制造恐慌、分裂舆论、抹黑国家形象。深伪技术还会被用于诈骗，不法分子可能利用这一技术克隆亲友或客服声音来冒充转账、虚假投资等非法活动，甚至编造企业公告或专家言论来制造市场波动。除此之外，还有信息泄露的风险，不法分子可能利用深度伪造人脸和声音来突破身份验证机制，造成账号被盗和敏感数据泄露。为了维护国家安全和公民利益，《互联网信息服务深度合成管理规定》明确规定不得利用深度合成服务从事危害国家安全、损害国家形象、侵害社会公共利益等行为。具有舆论属性和社会动员能力的深度合成服务需要备案、审核和实名管理，还得禁止篡改标识。使用这项技术时要谨慎，每一位公民都要增强安全意识和辨别能力并遵守法律法规。遇到可疑信息要先通过官方渠道核实真伪，不要盲目相信那些看起来不合理的音视频和图片内容。还要合理使用各类AI生成和图像处理工具，并遵守法律法规不去参与制作和传播有害虚假信息。