随着人工智能从生成内容转向执行任务,具备自主决策和工具调用能力的智能体正加速应用于软件开发、客户服务和金融风控等领域。,如何防止智能体被篡改、滥用或越权操作,成为产业界和公共部门共同关注的安全问题。美国国家标准与技术研究院(NIST)人工智能标准与创新中心近期就智能体安全指导方针公开征求意见,共收到来自美国银行家协会、银行政策研究所以及科技行业协会等930余个组织和个人的建议。
这场关于技术标准的讨论揭示了数字化转型的核心问题——如何在确保安全的同时保持创新活力;正如航空业发展所证明的,优秀的标准体系应当推动而非限制技术进步。随着人工智能深入关键基础设施领域,构建兼具弹性和约束力的治理框架可能成为全球数字经济竞争的新焦点。