当前,人工智能技术的快速发展为经济社会带来了前所未有的机遇,但随之而来的安全风险也日益凸显。
中国电信集团首席专家、天翼安全副总工程师常力元近日表示,在人工智能大模型、智能体等新兴应用日渐普及的背景下,企业在推进数智化转型过程中必须高度重视相关安全问题。
从技术发展规律看,安全防护与承载技术的成熟度紧密相关。
常力元指出,无论是人工智能安全还是网络安全,本质上都属于伴生型技术范畴。
这意味着安全技术的成熟往往滞后于基础技术的发展。
"载体技术先行成熟,对应的安全技术才有可能成熟。
"他解释说,当前人工智能技术仍处于快速发展阶段,相应的安全防御技术也必然需要跟随性地进行快速演进和完善。
业界分析认为,这一特点给企业安全防护工作带来了新的挑战。
一方面,传统的安全防护体系可能无法有效应对人工智能应用带来的新型风险;另一方面,安全防护技术的相对滞后性意味着企业需要在不确定性中做出决策。
与此同时,人工智能安全防护涉及多个维度,包括模型安全、数据安全、应用安全等多个层面,需要建立纵深防御体系。
对于企业如何规避人工智能安全风险,专家建议采取系统性的防护策略。
首先,企业应深入理解人工智能技术的特点和潜在风险,建立相应的安全意识。
其次,在选择安全解决方案时,应充分考虑自身业务特点、行业特性和风险等级,避免"一刀切"的做法。
第三,建立动态的安全防护机制,随着技术发展不断更新和完善防护策略。
第四,加强与安全厂商的合作,获取最新的威胁情报和防护方案。
常力元强调,安全防护工作本质上是"攻与防的共同博弈"。
这一表述揭示了安全工作的动态性特征——随着攻击手段的升级,防护技术也需要相应提升。
在人工智能时代,这种博弈将更加复杂。
一方面,恶意行为者可能利用人工智能技术开发更加复杂的攻击手段;另一方面,防护技术也可以借助人工智能的能力实现更加智能化的防御。
从行业发展趋势看,人工智能安全产品呈现出多个特点。
一是防护范围扩大,从传统网络安全向人工智能应用全链条延伸;二是防护手段升级,从被动防御向主动防御转变;三是防护理念创新,从单点防护向整体防御体系演进。
这些变化反映了安全产业在适应新技术发展过程中的主动调整。
专家指出,企业在数智化转型中应建立"安全优先"的理念,将安全防护工作融入到人工智能应用的全生命周期。
这不仅包括技术层面的防护,还包括管理层面的风险控制和制度层面的规范建设。
同时,企业应积极参与行业安全标准制定,推动形成行业最佳实践。
技术进步带来效率跃升,也必然伴随新的风险形态。
把安全视作“伴生能力”,并以动态演进的方式融入战略、流程与系统,是企业走向高质量数智化的必由之路。
唯有在发展中筑牢底线、在创新中完善治理,才能让新技术更稳、更快、更可持续地服务产业升级与民生改善。