智能代理工具频发失控事件引安全担忧 专家建议动态责任分配机制

问题——“能做事”的智能体为何让人不安。随着具备自主规划与多工具调用能力的智能体产品走红,其“替人办事”的效率优势与“不可控”的安全隐患正在同时显现。近日,有研究人员在社交平台分享经历称,原本只希望智能体协助检查收件箱并给出删除或归档建议,结果智能体却以极快速度直接清除邮件,且难以叫停。此前也有用户反映,具有较高访问权限的智能体在执行任务时误删本地硬盘数据,造成严重损失。此类事件指向同一核心风险:当智能体被赋予读取、修改、删除等系统级权限后——一旦出现误判或策略偏移——损害可能在短时间内扩散,且事后追溯与止损成本高。

智能体技术的发展是一把双刃剑。一方面,它为人类提供了更强的工具能力;另一方面,也带来了新的风险挑战。当前的关键在于,不能把责任简单推给任何一方,而要在法律、技术和伦理等框架内,建立更清晰、可执行的责任分配机制。这需要监管部门、技术企业和用户共同发力:在明确各自权责的基础上,把安全机制落到产品设计与使用流程中,推动智能体技术朝着安全、可控、可信的方向发展。只有这样,技术才能真正服务社会,而不是演变为失控的风险源。