腾讯完善智能体安全防护体系:聚焦提示词注入与技能“投毒”,云端终端协同治理

问题——智能体成为“高权限入口”,新威胁加速显性化 近期,智能体类应用办公协同、研发运维、内容生产等场景快速渗透,其通过调用系统工具、脚本与外部服务完成任务,明显提高效率。但业内普遍反映,智能体在运行机制上往往具备广泛的系统权限和自动化执行能力,一旦被利用,可能从“效率工具”演变为“高风险入口”。其中,提示词注入可诱导智能体偏离预期目标执行越权操作;技能(Skill)作为可扩展能力组件,若来源不明或审查不足,可能被植入恶意载荷,形成供应链“投毒”;在终端侧,智能体被攻破后可能直接获得与用户相当甚至更高的访问能力,带来账号、文件与业务系统的连锁风险。 原因——技术迭代与生态扩张叠加,传统防护面临适配压力 安全业内人士指出,新风险的形成具有多重背景:一是智能体逐步从“对话”走向“执行”,调用系统命令、访问文件与网络资源的频次和范围显著扩大,安全边界从应用层延伸至系统层与数据层。二是技能生态快速扩张,第三方组件、社区分发与复用加速,带来来源复杂、更新频繁、依赖链条拉长等问题,供应链治理难度上升。三是攻击方式更具“隐蔽性”和“交互性”,并非简单依赖已知特征或固定规则,传统基于规则特征的防护在面对提示词操控、间接指令、隐式越权等场景时,识别与判定更为困难。四是企业对“效率”需求上升,部分场景存在绕过审批自行部署的冲动,使终端侧“影子应用”增加,深入放大治理压力。 影响——一旦失控,可能引发数据外泄与业务连续性风险 在企业环境中,智能体若被滥用,可能出现从本地文件读取、截图抓取到跨系统调用的链式操作,数据外泄风险随之上升;同时,越权执行命令或误操作也可能影响核心业务系统的稳定运行。对个人用户而言,隐私权限调用不透明、支付与账号安全薄弱等问题更为突出,涉及剪贴板、摄像头、麦克风、位置等敏感权限的访问记录若缺乏可视化与可控机制,容易引发隐私担忧。对云上环境而言,临时密钥、访问令牌等高价值凭证暴露,可能带来横向移动与更大范围的数据与算力资源损失。总体看,智能体安全已从单点防护问题转向“端—云—供应链”协同治理议题,既关系数据安全,也影响企业合规与业务连续性。 对策——构建云端、企业、个人三场景闭环治理,突出“可控、可审、可追” 针对上述风险,腾讯对应的团队介绍,已形成覆盖云端、企业本地与个人本地的全链路防护体系,并在不同场景中突出差异化治理重点。 在企业终端部署场景,治理思路强调“分层防护”和闭环管理:事前管控侧重源头减量,通过终端合规检测识别已安装的相关工具,支持禁止运行、提示卸载或远程卸载等处置;对通过命令行方式安装的情况,可通过指令拦截阻断部署路径,减少未经授权的落地。事中监控强调行为透明化和可审计,通过终端检测与审计能力对智能体进程链、系统调用、数据访问进行记录与分析,并以数据防泄密机制识别通过智能体通道产生的外泄行为,在文件读取或外发关键节点进行拦截;同时引入“人机分离”策略,即同一员工人工访问业务系统可放行,而智能体调用则按策略限制,降低自动化越权带来的不确定性。事后溯源则提供操作日志、拦截事件与风险链路可视化,帮助企业快速定位安装分布、技能风险点与外泄尝试路径,提升处置效率与管理闭环。 在个人本地使用场景,腾讯在终端安全产品中强化“可感知、可隔离、可提示”的防护理念,通过系统防护、技能安全、支付安全、提示词防护、文件访问保护等手段提升安全性,并提供安全沙箱等隔离机制以降低风险外溢。同时,针对用户对隐私透明度的关切,相关隐私检测能力可展示应用对剪贴板、音频、摄像头、麦克风、位置等权限的访问记录,推动权限调用“看得见、可管理”,以降低误用和被滥用的空间。 在云端场景,面向云上各类计算环境运行的智能体,相关安全中心能力侧重“资产盘点、凭证扫描与调用审计”。通过自动识别云环境中的智能体及关联资产,追踪模型调用情况,主动扫描临时密钥、用户数据等高价值凭证暴露风险,并记录系统级命令、网络行为以及提示词与工具调用轨迹,在发生提示词注入、越权或异常访问时提供日志证据与排查线索。同时,对技能供应链开展安全扫描,排查木马病毒、恶意载荷以及潜在的提示词注入漏洞,强化源头治理。 此外,腾讯上提出将部分安全能力封装为可调用的“技能”,例如安全体检、隐私保护等,用户可通过交互方式触发自检与防护,意降低安全使用门槛,推动安全能力随生态扩展而“可复用、可分发”。 前景——从“补丁式防护”转向“安全内生化”,兼顾治理与体验 业内分析认为,智能体安全的关键在于将安全从外围附加转变为产品与生态的内生能力:一上,需要围绕权限边界、数据流转与工具调用建立更细粒度的策略体系,形成可量化的审计与持续评估机制;另一方面,要在不显著牺牲使用体验的前提下实现风险可控,避免因“一刀切”限制影响企业创新与效率提升。随着智能体应用进一步深入研发、运营、客服等关键环节,安全治理将更强调标准化、可配置和跨端协同,供应链治理、提示词安全与行为审计或将成为行业长期投入方向。相关团队也表示,正在探索更适应新型威胁的防护手段,并推动云端与终端能力同步落地,以应对攻击手法的持续演进。

随着数字经济发展,智能工具安全已成为产业健康发展的关键。腾讯的全场景防护体系为行业提供了实践参考。面对5G、物联网等新技术带来的挑战,需要产学研各方共同努力,在效率与安全之间找到平衡。这不仅是商业课题,更是维护数字主权的重要工作。