开源智能体应用升温 专家支招如何防范安全风险

随着数字化转型加速,具备自主任务处理能力的开源智能体正成为企业效率提升的新引擎。

以图标为红色龙虾而得名的"OpenClaw"智能体,通过整合通信软件与语言模型,可实现文件管理、邮件处理等复杂操作的自动化执行。

据中国信息通信研究院监测数据显示,该工具近三个月下载量环比增长217%,已覆盖金融、教育等12个重点行业。

这一技术热潮背后潜藏的安全隐患不容忽视。

中国信息通信研究院副院长魏亮在接受专访时指出,智能体在本地化部署中呈现三大风险特征:一是自主决策机制可能导致指令理解偏差,存在误删关键数据等操作风险;二是开源技能包审核机制尚不完善,第三方组件可能成为恶意代码载体;三是系统调用权限过高,易形成安全防御缺口。

今年1月某证券公司的数据泄露事件调查显示,攻击者正是通过篡改智能体插件实现了系统渗透。

针对动态演变的网络安全威胁,魏亮强调"版本更新不能等同于安全保障"的核心观点。

研究表明,新型网络攻击平均每72小时就会出现变种,传统"打补丁"式防护存在明显滞后性。

2023年国家工业信息安全发展中心的报告显示,83.6%的成功网络攻击利用的是已知漏洞未修复系统。

基于风险研判,专家团队提出立体化防护方案:在技术层面,建议采用容器化部署隔离运行环境,严格实施最小权限原则;在管理层面,需建立双因素认证机制,对互联网暴露面实施实时监控;在运维层面,应构建包含日志审计、漏洞扫描、应急响应的三位一体防护体系。

值得注意的是,工业和信息化部网络安全威胁信息共享平台已开通智能体专项预警通道,累计发布风险提示27次。

行业观察显示,随着《生成式人工智能服务管理暂行办法》等政策落地,智能体技术将进入规范发展新阶段。

多家头部科技企业正联合科研机构开展安全标准研制,预计年内将发布首份《智能体系统安全基线要求》。

市场分析机构IDC预测,到2025年,中国智能体安全市场规模将突破80亿元,年复合增长率达45%。

智能体越强大,越需要把安全底线握在自己手中。

面对新工具带来的效率红利,既不能因噎废食,也不能“默认信任”。

唯有将最小权限、隔离运行、日志审计与持续更新等措施固化为日常规范,推动生态审核与风险预警机制不断完善,才能让技术进步在可控边界内释放更大价值。