智能工具安全风险引关注 专家呼吁建立技术应用“防护网”

问题——效率工具“出圈”背后,风险与隐患同步累积; 随着智能体应用在办公协同、项目管理、软件开发等场景快速普及,“一键生成报告”“自动归档资料”“代办日常事务”等能力降低了大量重复劳动成本。一些地方也通过体验推广、产业扶持等方式加快涉及的业态集聚,智能体正在成为数字化转型的新入口。然而,多部门近期发布的联合风险提示指出,部分智能体应用在部署、使用与扩展环节存在明显安全短板,并在互联网环境下出现规模化暴露趋势。一旦被攻击利用,可能导致企业数据外泄、业务中断,甚至对关键系统安全造成冲击。 原因——“便利优先”的产品设计与“默认同意”的使用习惯叠加放大风险。 一是部署门槛降低带来的“裸露上网”。为追求快速安装与远程调用,一些应用默认开启公网访问接口,但安全配置未同步到位;同时,部分用户为图省事沿用弱口令或不设访问控制,系统长期处于可被扫描探测的暴露状态。很多攻击并不需要高门槛技术,自动化扫描就可能找到入口。 二是权限授权机制粗放,信任边界不清晰。智能体要“接管流程”,往往需要获取文件、邮件、代码仓库乃至系统操作等高权限。现实中,授权提示常被简化为一次点击,用户难以判断权限范围、数据流向和留存周期;一些组织也缺少最小权限原则与分级管理,出现“能用就给全权”的做法,使隐私数据与商业秘密面临被收集、被转发甚至被二次利用的风险。 三是开放生态扩张快但治理不足,插件环节成为薄弱点。开源与插件市场让功能快速扩展,但若缺少审核机制、签名校验、来源追溯与动态监测,恶意插件可能借“效率工具”之名植入后门,进而实施数据窃取、远程控制等行为。对普通用户而言,插件安装的“低成本”容易掩盖其潜在“高风险”。 影响——从个人信息到组织核心数据,外溢风险可能呈链式传导。 对个人用户,风险主要表现为账号被盗、聊天记录与照片等隐私泄露、终端被控制后遭勒索或被用于非法活动。对企业和机构,风险不仅是数据泄露与合规成本上升,还可能引发客户信任受损、业务系统停摆、供应链连带风险等更深层后果。尤其当智能体接入运维管理、财务系统、生产控制等关键环节时,一旦遭渗透或被恶意操控,可能引发更大范围的安全事件,形成“工具化风险—业务化后果”的放大效应。 对策——坚持发展与安全并重,推动“可用、可控、可信”的治理框架落地。 对个人用户,应建立基本安全边界:尽量在本地或可信环境中运行,关闭不必要的公网访问;设置强口令并启用多重验证;优先将智能体用于公开资料整理、学习笔记等低敏任务,避免导入身份证件、财务信息、工作机密等敏感内容;谨慎安装第三方插件,优先选择来源清晰、评价可靠、更新可追溯的组件。 对企业与机构,应将智能体纳入信息安全与数据治理体系统一管理:建立分级授权与审批流程,落实最小权限原则;对重要系统与数据环境进行隔离部署,关键业务优先采用内网运行、白名单访问与审计留痕;对插件和模型组件开展安全评估、签名校验、版本管理与持续监测;开展安全培训与应急演练,明确数据出境、日志留存、第三方服务调用等合规要求。 对行业生态与监管层面,应推动标准、评测与责任体系协同:强化默认安全配置要求,减少“默认开放、事后补救”;完善开源组件与插件市场的审核机制,建立漏洞通报与处置联动;加大对违法违规收集使用数据、提供恶意工具链等行为的打击力度;鼓励安全厂商、研究机构与开发社区建立漏洞响应与共治机制,形成“发现—通报—修复—复盘”的闭环。 前景——在创新提速期更需筑牢底座,推动智能体应用走向规范化规模发展。 智能体带来的效率提升具备现实需求与产业空间,未来将更深嵌入政务服务、企业运营与个人生活。行业也将从“拼功能、拼速度”逐步转向“拼安全、拼治理、拼可持续”。随着安全标准完善、企业级部署成熟、权限与数据治理能力增强,智能体有望在更清晰、可控的边界内释放价值,实现从“新奇工具”到“可靠基础能力”的转变。

新技术带来的效率提升值得期待,但安全不是“可选项”,而是技术能否持续落地的前提。把风险提示当作“刹车灯”,不是要放慢创新,而是让发展行进在可控轨道上。只有将安全责任落实到产品设计、部署运维、生态管理与用户使用习惯的每个环节,智能体才能真正成为可靠的生产力工具,更好服务经济社会发展。