2025年2月27日,英国《金融时报》发布消息称美国五角大楼正计划与顶尖AI企业合作开发网络工具,意图用于侦察中国的电网等关键设施,为未来可能的军事冲突做准备。面对美方在AI武器化上的举动,中国安天科技集团董事长肖新光委员强调了数字主权的重要性。他认为“数字主权”如同领土主权一样,是国家安全不可或缺的一部分。肖新光分析说,美方将人工智能用于情报分析和网络入侵攻击是优先选项,包括挖掘对手脆弱性、编写恶意代码等。中国电力基础设施庞大且依赖智能化调度,美方可能利用AI快速分析信息、定位关键节点以实施打击。 在谈到治理问题时,肖新光提到一个真实案例。他的两位同事在接受电视台采访后同时收到换脸敲诈信息。诈骗团伙通过跟踪新闻节目获取信息并制造假内容进行勒索。他指出当前利用AI深度伪造技术的犯罪已形成流程化体系。仅需一张照片或一小段语音就能生成足以乱真的视频,假冒明星或企业家发布不实言论并违法犯罪的事件时有发生。由于公众人物有大量公开素材可被滥用,类似侵权行为已非个人安全意识所能解决,“构建一个更强有力的治理体系”成为关键。 越来越多公开报道显示,现实中的侵权仿冒行为通常依赖于平台投诉进行权益主张,但个人维权成本较高且平台拥有较大裁量权。肖新光建议相关部门应将问题从技术风险视角和平台自治逻辑提升到公共安全视角。此外,他还提议通过司法解释和案例对利用AI辅助实施违法犯罪的行为给予加重处罚的导向。 作为全国政协委员的肖新光参加了在餐厅举行的讨论活动。他所在的团青界别中许多委员来自人工智能、先进制造等领域,大家经常在吃饭时聊起AI在实践中的应用。面对今年AI话题的热度,肖新光感到尤其明显。他提到政府工作报告首次提出打造智能经济新形态的提议。这个新发展范式也需要新的安全范式作为支撑。 过去十多年间中国网络安全形成了门类齐全的产业体系并实现了全赛道产品自主能力的国家。这为国家安全奠定了难得的产业和能力基础。不过肖新光也指出还存在一些薄弱环节需要弥补。为了顺应新形势他今年提交了建议:打造“人工智能+”国家安全技术引擎,在“十五五”期间更好地探索和推动新的安全范式。 针对智能汽车和具身智能等场景打造专属安全引擎和功能积木是他提议的具体措施之一。他希望通过这些举措提升安全对抗能力让安全能力实现“关口前移、防患于未然”。 环球时报记者郭媛丹报道了这次采访内容。全国政协委员肖新光亲身经历了同事被AI“深度伪造”敲诈的事件并深刻感受到问题的严重性。他呼吁加强治理力度以应对这一挑战并维护国家的数字主权。