近期,以开源技术为核心的智能体应用在多个领域快速普及,但其安全性问题引发监管部门高度关注。
工业和信息化部网络安全威胁和漏洞信息共享平台此前已发布预警,提示用户防范潜在风险。
尽管相关技术已迭代更新以修复已知漏洞,但专家指出,安全威胁并未彻底消除。
问题显现 中国信息通信研究院副院长魏亮表示,智能体在运行过程中可能出现指令误解,导致执行非预期操作,例如误删关键数据。
此外,部分第三方开发的技能包可能被植入恶意代码,进而引发数据泄露或系统被非法控制。
更值得警惕的是,用户若未妥善配置权限或存储方式,例如将实例暴露于互联网、使用明文存储密钥等,即使采用最新版本,仍可能成为攻击目标。
风险成因 技术快速迭代与安全防护滞后的矛盾是主要诱因。
开源技术的开放性虽加速了功能创新,但也降低了恶意代码植入的门槛。
同时,部分用户对权限管理和数据保护的意识不足,进一步放大了风险。
此外,智能体与底层模型的交互复杂性增加了指令误解的概率,尤其在多任务场景下,安全隐患更为突出。
潜在影响 此类风险对党政机关、企事业单位及个人用户均构成威胁。
一旦关键系统遭入侵,可能导致敏感信息外泄、业务中断甚至社会秩序紊乱。
个人用户则面临隐私数据被窃取、设备遭劫持等风险。
应对建议 工信部专家提出三项核心原则:一是“最小权限”,即严格限制智能体的操作权限;二是“主动防御”,通过实时监测和漏洞扫描提前阻断攻击;三是“持续审计”,定期检查系统日志与行为轨迹。
此外,用户应优先选择经过安全认证的技能包,并避免在非必要情况下开放高危端口。
未来展望 随着智能体技术深入应用,安全标准与监管框架亟待完善。
行业需加快建立漏洞响应机制,推动技术提供商与用户协同防护。
长期来看,只有将安全设计融入开发全流程,才能实现技术创新与风险防控的平衡。
开源智能体带来的效率提升不容忽视,但越是“能做事”的工具,越需要被放在可控的制度与技术框架中运行。
把升级更新当作基本功,把最小权限、主动防御、持续审计当作硬约束,才能在释放创新活力的同时守住安全底线,实现发展与安全的动态平衡。