问题——智能体应用热度攀升,安全短板随之暴露。
随着大模型与智能体技术迭代提速,越来越多企业将其用于客服、研发、运维、营销等场景,以提升效率与响应速度。
但在实践中,敏感数据外泄、模型被越权调用、提示注入导致错误决策、异常行为影响核心系统等风险开始显性化。
一旦缺乏隔离与审计机制,智能体可能在调用接口、读取数据、执行指令等环节形成“黑箱操作”,给企业带来合规与经营双重压力。
原因——从“能用”到“可管可控”,企业缺少通用基础设施。
一方面,智能体往往依赖多模型、多工具链与开源组件,部署链条长、接口繁杂,安全边界难以清晰划分;另一方面,企业内部权限体系、责任链条与审计制度若未同步升级,容易出现“人人可用、无人负责”的管理空档。
此外,不同芯片与算力资源并存,使得资源调度与成本优化与安全治理相互交织,进一步抬高落地门槛。
影响——安全能力已成为智能体规模化的“第一指标”。
与传统信息系统相比,智能体具备更强的自主调用与执行能力,若缺少防护与治理,风险不仅是数据丢失,更可能扩展为业务中断、供应链连带与声誉损失。
多位业内人士指出,在企业级应用场景中,“安全可控”已成为智能体从试点走向规模化的前置条件:没有可靠底座,再先进的能力也难以进入关键业务。
对策——上海四家企业协同发力,构建“可控底座+系统治理+纵深防护+集成落地”的组合方案。
启动会上,DaoCloud道客发布面向企业的智能体运行系统ClawOS,提出以统一算力管理、资源调度与安全治理为核心,降低企业部署复杂度。
其设计强调“隔离运行、权限上收、全程可追溯”:通过为不同智能体划分相对独立的运行空间,降低相互影响;以“令牌管家”等机制对调用进行统一管理;通过权限分配与操作留痕,做到责任到人、过程可查。
相关测算显示,在资源调度优化后,算力利用效率与推理成本有望得到明显改善,为企业在可控前提下扩大使用规模提供支撑。
在安全能力建设方面,斗象科技提出覆盖云原生底座、模型推理、业务应用与供应链环节的分层防护思路,强调将轻量化、低干扰的安全能力嵌入运行链路,并通过行为检测等方式识别异常操作,提升对智能体不当行为与外部攻击的发现与处置效率。
仪电智算则聚焦算力底座与平台化能力,强调安全是智能体落地的“先决条件”,并倡议发起相关生态共建联盟,推动技术共研、标准共建、应用共推和人才共育。
作为数字化转型总集成服务方,南洋万邦提出在系统设计层面强化“最高权限控制、局部可回退、异步兼容连通、全链路安全强化”等原则,为企业在引入“数字员工”时划定可执行的治理边界,兼顾效率与安全底线。
前景——从单点工具走向体系化治理,标准与生态将决定落地速度。
业内判断,未来企业竞争将更多体现在人机协作的组织密度与流程再造能力上,而智能体基础设施将成为关键支撑。
与此同时,智能体应用涉及数据、模型、工具链与供应链的多方协同,单靠某一产品难以覆盖全链条治理需求。
通过形成“底座能力可统一、权限体系可闭环、行为审计可追溯、生态组件可验证”的标准化路径,有望降低企业从试点到规模化的迁移成本,推动智能体更稳妥地进入研发、生产与运营等核心环节。
智能体应用的未来竞争,本质上是人机协作密度的竞争。
上海四家企业的这一合作,不仅为企业提供了实用的安全工具,更重要的是确立了智能体应用必须遵循的伦理底线和安全原则。
当技术创新与安全管理相辅相成,当开放生态与可信防护相互融合,智能体产业才能真正实现从"能用"到"好用"再到"安全用"的升级,为经济社会发展注入更加稳定的动能。