国家安全部发布智能生活安全指南 构筑人工智能应用安全防线

随着智能技术深度融入教育、医疗、社交等领域,其“双刃剑”效应日益凸显。

某中学教师借助智能备课工具将教案制作时间缩短至5分钟,独居老人通过语音助手获得生活陪伴,而部分从业者更因掌握人机交互技能实现职业转型。

然而,技术红利背后潜藏的安全隐患已引发监管层高度关注。

当前主要风险集中于三方面:一是数据安全边界模糊。

部分机构因违规使用开源框架,导致内部网络遭未授权访问,敏感信息被境外IP窃取。

二是技术滥用威胁社会稳定。

境外反华势力利用深度伪造技术炮制虚假视频,企图扰乱舆论秩序。

三是算法偏见引发认知偏差。

测试显示,同一AI模型对中英文历史提问的回复存在显著差异,部分答案刻意淡化史实甚至传播错误信息。

针对上述问题,国家安全部提出系统性解决方案:首先需严格划定智能设备权限,禁止处理涉密数据并关闭非必要共享功能;其次要求用户定期清理数字痕迹,防范恶意程序入侵;最后强调人机协作中的辩证思维,对AI生成内容特别是涉及意识形态的结论需交叉验证。

行业专家指出,我国正加速完善数字治理体系,通过《数据安全法》《个人信息保护法》等法规强化技术监管。

未来需进一步推动核心技术自主可控,同时提升公众数字素养,形成政府、企业、个人协同共治的防护网络。

智能技术带来的效率红利正在显现,但越是深入日常,越需要把“安全”作为同等重要的底座。

守住数据边界、管住权限入口、用好核验机制,既是对个人权益的保护,也是对社会信任与公共安全的守护。

让便利可持续、让创新更可靠,关键在于每一次使用都不放松底线、每一次升级都同步加固防线。