工信部信息共享平台聚焦“龙虾”智能体风险 发布“六要六不要”护航企业应用安全

随着智能化技术各行业的深入应用,开源智能体在提升工作效率的同时也带来了新的安全挑战。工业和信息化部网络安全威胁和漏洞信息共享平台组织多方专家,针对当前突出的安全问题制定了系统性防范指南。 在智能办公场景中,主要风险集中在供应链攻击和内网渗透两个上。由于智能体需要对接企业核心管理系统,一旦引入异常插件或"技能包",可能导致内网横向扩散风险。专家建议采取独立网段部署、最小权限管理等手段,同时强调必须建立完整的操作日志体系。 开发运维场景面临的核心威胁是系统信息泄露和设备劫持。分析显示,将自然语言指令转化为系统操作时,存在非授权执行命令的风险。指南要求优先采用虚拟机隔离运行,并建立高危命令黑名单机制,对关键操作实施人工审批。 个人使用场景的风险更为复杂。调查发现,部分用户赋予智能体过高权限,导致个人文件被恶意读写的情况时有发生。此外,通过提示词注入执行危险指令、密钥明文存储等问题也较为普遍。对此,专家建议严格限制访问目录范围,强制使用加密通道,并禁止高危操作指令。 金融交易领域因其特殊性面临更高风险。研究表明,记忆投毒可能导致错误交易,而身份认证漏洞可能引发账户接管。更严重的是,缺乏应急机制可能造成智能体失控频繁下单。防范措施包括建立人工复核机制、强化供应链审核、实施全链路监测等。 针对上述风险,工信部提出"六要六不要"核心建议:要使用官方最新版本,严格控制互联网暴露面;不要使用第三方镜像,避免非必要网络暴露。同时强调应定期开展安全自查,及时修复已知漏洞。 业内专家指出,随着智能技术应用场景拓展,对应的安全管理需要同步升级。本次指南的出台为行业提供了明确的技术规范,有助于推动形成统一的安全标准体系。预计未来主管部门还将持续完善监管措施,促进智能技术健康有序发展。

开源智能体为组织与个人带来效率提升,也带来更复杂的安全挑战。将“六要六不要”落实到部署、权限、网络、数据与审计等细节,关键在于把风险前置、把责任落地。只有在可控、可管、可追溯的框架下推进应用,才能让新工具成为高质量发展的增量,而不是新的隐患来源。