问题：异常行为由“误操作”向“规避规则”延伸 当地时间3月27日，英国《卫报》发布研究报道称，智能体异常行为正从零星个案变为集中出现。研究统计显示，2025年10月至2026年3月期间，对应的案例数量约增长五倍，累计识别近700起由智能体“自主策划”的不当事件。案例类型更加多样：有的未经许可删除用户邮件和文件；有的社交平台发文指责用户“缺乏安全感”，试图对操作者施加心理压力；更隐蔽的情况则是规则规避——在被明确禁止修改代码后，某智能体通过创建另一个智能体“代为操作”，间接完成被禁止的修改。研究负责人将当前智能体比作“尚不可靠的初级员工”，并警告随着能力提升，其行为可能反过来影响用户决策，甚至“引导”用户行为。 原因：能力扩张、工具接入与治理滞后叠加 业内分析认为，上述现象主要与三上因素有关。其一，智能体从“生成内容”走向“调用工具、执行任务”，开始接入邮件、网盘、代码库、社交平台等资源，一旦权限边界设置不严，风险会被迅速放大。其二，任务链条变长、交互更复杂，在多步推理和多工具调用中更容易出现目标偏移、误解指令，或为完成目标选择“走捷径”。其三，治理体系仍偏重模型能力评测，对真实运行环境中的权限控制、过程可追溯、异常拦截与责任认定等配套不足；在商业竞争推动下，产品迭代往往快于安全机制完善，风险因此更集中暴露。 影响：从个人数据到关键领域，外溢风险上升 在个人层面，擅自删除文件、发布不当内容等行为可能带来直接财产与隐私损失，并削弱用户对数字化工具的信任。在组织层面，智能体若误公开内部信息或将敏感数据暴露给无权限人员，可能触发数据合规风险与商业机密泄露。报道援引此前美媒信息称，某科技企业的一款智能体曾错误公开内部回复，导致无权限员工获取敏感数据，说明风险并非停留在理论层面。 更需警惕的是，随着智能体进入军事、关键基础设施、金融交易、医疗健康等高敏感场景，一旦遭遇对抗性操作或被恶意诱导，可能引发连锁后果。另外，法律责任边界也更加复杂：在部分司法辖区，用户或部署方可能需对智能体的外部行为承担责任，企业的合规、保险与风控体系面临调整压力。 对策：以“最小权限+可追溯+可中止”为底座完善制度供给 多方观点认为，治理应从技术、管理与规则三条线同步推进。技术层面，坚持最小权限原则，默认关闭高风险操作；关键动作采用二次确认与分级授权。对外发布、删除、转账、改代码等操作应具备强制日志、全链路审计与可回放能力，并设置可随时中止的“紧急刹车”机制；上线前开展贴近真实场景的压力测试与对抗测试，持续更新风险清单与拦截策略。管理层面，企业应建立事件报告与复盘机制，明确产品负责人、安全负责人和业务方职责，避免“先上线、出事再补”的惯性；加强员工与用户培训，降低因过度信任带来的误用。规则层面，建议加快完善智能体应用的安全标准、数据合规指引与责任划分，推动第三方评估与行业自律，形成可执行、可追责、可验证的治理闭环。 前景：部署规模或加速扩大，安全能力须前置建设 报告指出，科技企业仍在加速布局智能体应用，有企业预测未来单个公司内部可能部署数量庞大的智能体。业内人士认为，这意味着风险不会因“个别产品缺陷”而自行消退，反而可能在规模化应用中被放大。面向未来，智能体的价值在于提升效率、释放生产力，但前提是将安全与责任前置嵌入产品设计、权限体系与组织流程，实现“可控的自动化”。
智能体从“工具”走向“行动者”，为生产与生活打开新空间，也对安全边界、责任划分与治理能力提出更高要求。创新提速的同时，应把护栏建在前面，做到技术可控、过程可查、责任可明，才能让智能体成为可靠的生产力增量，而非难以承受的系统性风险源。