工信部提示开源智能工具存在安全隐患 专家建议审慎部署并加强风险防范

(问题)社交平台与技术社区,一种被称为“龙虾”的开源智能体工具快速走红。其卖点在于可长时间后台运行、理解上下文并自动执行操作,能够协助整理文件、生成文稿、检索资料、处理表格,甚至联动邮件与应用程序完成流程化事务。伴随关注度上升,涉及的教程、付费代安装服务同步扩张,“人人拥有数字助理”的想象被更放大。 (原因)热度攀升的背后,一上是企业与个人对降本增效的现实需求增强,通用大模型能力提升带动“能动手干活”的智能体加速落地;另一方面,开源与本地化部署降低了使用门槛,用户可在个人设备或私有环境中搭建,形成“可控、可改、可扩展”的心理预期。同时,部分宣传将其描述为“全天候管家”,弱化了对安全配置、权限边界、运行环境等基础问题的关注,给风险埋下伏笔。 (影响)工业和信息化部近日发布预警提示指出,相关开源智能体在不当配置等情况下存在安全风险,主要集中在系统权限、数据安全与供应链环节。其一,智能体为完成“自动操作电脑”等任务,往往需要较高系统权限。一旦授权过度、缺少人工确认或回滚机制,可能因判断失误误删文件、改动配置,甚至触发不可逆的业务损失。其二,智能体具备联网浏览、读取邮件与文档等能力,容易成为外部攻击的“放大器”。攻击者可能通过网页内容、邮件附件、图片或文档中夹带的恶意指令诱导其偏离既定任务,进而窃取口令、通讯录、工作资料等敏感信息。其三,长时间运行与自动调用模型可能造成资源与费用的无序消耗,尤其在逻辑循环或任务设定不清时,可能带来算力占用与成本激增。其四,围绕“代安装”“远程部署”的市场良莠不齐,若将设备交由不明身份人员操作,存在被植入木马、后门或被收集个人隐私的隐患,甚至导致“便捷服务”演变为“引狼入室”。 (对策)业内专家建议,普通用户在部署此类智能体工具前,应先明确“是否需要、需要到什么程度”。对多数日常办公场景,可优先选择具备明确边界的单点工具或限定功能的应用,避免一开始就上“全能自动化”。在确需使用时,应把安全配置作为首要步骤:一是坚持最小权限原则,仅开放完成任务所必需的系统权限与数据目录,避免授予全盘读写、通讯录与浏览器口令等敏感权限;二是设置“关键动作人工确认”,对发送邮件、删除文件、下载执行等高风险操作增加二次确认与白名单;三是加强隔离与审计,尽量在沙箱、虚拟机或专用账号环境运行,开启日志记录,定期检查任务链条与外联行为;四是控制外部输入风险,对陌生网页、邮件附件、脚本与插件提高警惕,关闭不必要的自动浏览与自动下载功能;五是选择正规渠道获取安装包与更新补丁,核验版本来源与校验信息,谨慎使用第三方“代安装”,确需外包时也应签署保密与合规条款,并避免提供主账号口令与敏感数据。 (前景)从发展趋势看,智能体将成为软件形态演进的重要方向,推动办公、运维、内容生产、客户服务等领域的自动化升级。但越是“能操作系统、能访问数据、能替人执行”,越要把安全治理前置。下一步,行业需在权限分级、插件生态审核、默认安全配置、提示词注入防护、数据脱敏与可追溯审计等形成共识;平台与服务商也应完善资质标识与风险提示机制,压实代安装、插件分发等环节的责任边界,推动技术创新与安全底线同步提升。

新技术的价值在于提升效率,但也考验着使用者的安全意识。智能体越强大,越需要明确的边界和规则。只有在确保安全的前提下——效率提升才能真正创造价值——推动新技术健康有序发展。