近年来，人工智能技术迭代加快，应用场景持续扩展，在政务服务、城市治理、产业升级与民生领域展现出显著带动效应。
与此同时，数据安全、模型安全与伦理治理等问题逐步凸显，成为影响技术可持续发展和产业竞争力的重要变量。
围绕这一现实挑战，成都市人大代表唐利勤提出《关于加强人工智能安全治理 助力“十五五”数字成都建设的建议》，主张把安全治理与产业发展同步规划、同步推进，为下一阶段数字化建设夯实基础。
问题层面，人工智能在带来效率提升与创新活力的同时，也伴生多类风险：其一，语料与数据可能存在偏见，导致模型输出失真，影响公共服务的公平性与可信度；其二，数据泄露与滥用风险上升，尤其在多源数据汇聚、训练与调用环节，一旦管理不到位，可能引发个人信息泄露、商业机密外溢等问题；其三，模型可能出现失控或被恶意利用，带来系统性安全隐患；其四，深度伪造等技术被滥用后，可能放大谣言传播、诈骗等社会治理风险，冲击社会信任与网络生态。
原因层面，上述风险并非单点问题，而是“技术—管理—合规—伦理”多因素叠加的结果。
一方面，人工智能尤其是大模型呈现“黑箱化”“规模化”特征，安全评估、对抗防护、可解释性等关键能力尚需进一步成熟，给监管和自我约束带来难度。
另一方面，一些单位对安全治理的认识仍停留在传统网络安全范畴，未能把数据、模型、内容生成、供应链等新型风险纳入统一管理框架，导致制度、流程与技术投入不同步。
此外，跨境通信与数据流动增多，使合规管理面临更复杂的外部环境；伦理管控技术与标准体系建设仍在推进中，落地工具与实践经验有待完善。
影响层面，若治理缺位或滞后，短期可能表现为数据泄露、内容失真、诈骗扩散等具体事件，长期则可能削弱产业生态的公信力与稳定性，抬高企业合规成本与创新风险，进而影响城市在新一轮科技竞争中的战略主动。
对于正在推进数字化转型的超大城市而言，人工智能安全治理不仅关系到产业发展，更关系到公共服务可靠性、社会治理效能和市民获得感，必须以更系统、更前瞻的方式应对。
对策层面，唐利勤的建议聚焦“以治理促发展、以安全护创新”。
一是强调政策引领与能力建设并重，通过完善制度供给、加强培训宣传等方式提升全社会安全意识，推动政府部门、企业与机构形成“主动合规、主动防护”的共识。
二是推动关键技术研发与应用，提升风险感知能力与大模型安全防护水平，促进在模型训练、部署、调用、更新等全生命周期嵌入安全机制，强化对对抗攻击、提示注入、数据投毒等新型威胁的防护。
三是完善监管与协同机制，推动监测预警、应急处置、责任追溯等体系建设，实现对重点领域、重点系统和关键环节的动态管理。
四是突出合规管控，针对数据跨境传输与跨境通信风险，推动依法依规开展评估与管理，明确数据边界、流转规则与责任链条，降低数据外泄与合规不确定性带来的风险。
前景判断层面，成都作为国家新一代人工智能创新发展试验区和国家人工智能创新应用先导区，已形成具有区域竞争力的产业生态。
面向“十五五”，人工智能将更深度融入城市治理、产业体系与公共服务，安全治理也将从“事后应对”转向“前置防控”，从“分散管理”走向“体系治理”。
在政策牵引、技术进步与监管协同共同作用下，若能尽快构建覆盖数据、模型、应用、内容和供应链的安全体系，将有望在保障安全的前提下释放更大创新活力，推动数字成都建设行稳致远。
人工智能技术的双刃剑效应日益显现，如何在创新与安全之间找到平衡点，成为各地发展数字经济必须面对的课题。
成都的探索不仅关乎本地产业生态的稳健前行，更对全国人工智能治理体系的完善具有示范意义。
唯有筑牢安全基石，方能真正释放技术的红利，助力经济社会迈向智能未来。