问题——应用热潮下的“可用”与“可信”如何同时实现 随着大模型和智能体工具加速进入开发与生产场景，技术迭代带来的新风险也在同步暴露：数据流转边界更复杂、智能体可调用的工具链更长、第三方插件与技能扩展更频繁。一旦出现身份认证薄弱、数据隔离不足或提示词注入等问题，轻则造成业务中断，重则引发数据泄露与供应链风险。业内普遍认为，过去依靠外围叠加的“外挂式”安全手段，难以覆盖智能体高频交互、跨环境执行与自动化决策带来的新变量，安全能力需要向“原生化、默认化、体系化”升级。 原因——开源与智能体走向规模化，倒逼安全能力前置 本届大会延续“开发者友好”的定位，同时更强调“生态化”与“工程化”。现场围绕开源项目、工具链、模型部署与应用集成设置了多类展示与交流环节。多家企业推出面向入门用户的便捷部署方案，主打“一键安装”“本地可用”“云端可选”，继续降低开发门槛。在此趋势下，安全问题更容易从“少数专家的专业议题”变成“广大用户的使用体验”。 政策层面，上海此前发布《上海市加强开源体系建设实施方案》，提出用3至5年打造1至2个具有国际影响力的开源社区、孵化200个以上优质开源项目。开源体系向纵深推进，意味着参与主体更广、贡献链条更长、协作更紧密。要让开源创新走得更稳，就需要把安全与合规嵌入开发、发布、运行全流程，形成清晰的边界与可持续的信任基础。 产业层面，算力供给、语料服务、模型备案、机器人与芯片等关键环节加速发展，正在推动上海形成更完整的软硬协同体系。上海市涉及的负责人在大会开幕式上表示，上海以相当规模的智算供给能力支撑产业发展，运营语料公共服务平台，已发布多款备案大模型，并在机器人与芯片等领域取得进展；同时通过支持开发者成长与成果转化，着力打通技术验证与商业落地的“最后一公里”。 影响——安全能力成为应用扩张的“通行证”，也成为城市竞争力一部分 大会现场，围绕智能体安全、数据本地化、应用资产审查、对抗测试等议题的讨论明显升温。一些产品把安全配置模板、身份认证与数据隔离等能力以“默认预装”的方式提供，强调“开箱即用”的安全体验，并将风险拦截前置到指令与代码层面，降低普通用户在扩展技能、接入工具时的误用与被攻击概率。 同时，面向安全测试与攻防验证的社区力量受到关注。业内人士介绍，依托经授权的网络安全专家社区开展高频对抗测试，有助于缓解阶段性的人才紧缺，并为智能体应用提供更贴近真实环境的压力测试与漏洞发现机制。随着智能体从“单点工具”走向“任务代理”，安全要求也将从“守住边界”转向“治理行为”，包括权限控制、行为审计、价值对齐与责任追溯等更系统的能力建设。 对城市而言，安全与可信生态的成熟度，将直接影响企业是否愿意集聚、产品是否选择首发、场景是否更快落地。安全能力能否与算力、模型、应用场景同步形成闭环，正在成为衡量产业体系韧性的重要指标。 对策——以开源生态为牵引，推动“安全默认配置”与协同治理 与会人士普遍认为，构建智能体安全体系需要多方协同： 一是将安全能力产品化、模板化。通过通用安全配置模板、默认预装的防护策略，把身份认证、数据隔离、注入防护等基础能力沉淀为可复用组件，降低中小团队的安全建设成本。 二是加强应用资产与供应链审查。针对插件、技能和第三方工具的潜在投毒风险，建立指令与代码双维度的审查与检测机制，形成从源头拦截到运行期监测的闭环。 三是推动本地化与可控部署选项。在对数据安全高度敏感的场景下，提供数据本地存储、可离线使用或专有云推理环境等路径，让企业和个人开发者在效率与安全之间有更清晰、可选的工程方案。 四是做强开源社区与人才生态。通过开源社区建设、开发者大会与白帽社区等平台，推动安全知识共享、漏洞响应与规范共识形成，让安全能力在协作中持续迭代。 前景——从“技术热”走向“产业稳”，关键在于开源与安全并重 从本届大会呈现的趋势看，开源正在从“代码共享”加速走向“生态共建”，成为技术创新与产业协作的重要组织方式。未来一段时期，智能体应用仍将持续扩张，开发者会更依赖可复用框架、工具链与社区资源，以提升开发效率；与此同时，安全、合规与可信也将成为应用规模化的前提条件。 可以预期，随着上海推进开源体系建设，完善算力与语料等公共能力供给，并在产业链关键环节持续突破，更多开源项目有望在这里完成从原型到产品、从试点到规模化的跃迁。谁能把安全能力做成“默认选项”、把可信机制做成“基础设施”，谁就更可能在新一轮技术扩散中赢得先机。
全球开发者先锋大会展示了上海在人工智能与开源技术领域的推进成果，也凸显了“创新提速”的同时必须“安全先行”；随着政策支持与产业协同深入深化，上海有望成为全球AI安全与开源生态的重要枢纽，为数字经济发展提供持续动能。