巴菲特警示AI风险堪比核武器 呼吁重视技术失控带来的社会隐患

问题——前沿技术快速演进正将风险从“可预见”推向“难预判”。

巴菲特在受访时指出,相关技术的危险性可与核武器相提并论,其核心不在于技术本身的“强大”,而在于走向与边界的不确定。

“即便最顶尖的从业者也未必清楚将走向何方”,他以“精灵已出瓶”为喻,强调一旦被广泛应用,回撤成本高、纠偏难度大。

与传统工具不同,这类技术既能提升效率、创造价值,也可能被用来突破信任体系,形成低门槛、高隐蔽的社会性破坏。

原因——风险上升的根源在于三重叠加:其一是技术扩散速度快、复制成本低,能力从少数机构向更多主体外溢;其二是治理体系与公众认知更新相对滞后,规则、伦理与安全评估尚难与迭代速度匹配;其三是“真实感”被技术重塑,身份、证据与信息来源的可信度受到冲击。

巴菲特提到多起冒充其本人行骗事件,并指出远距离、跨地域的“声音、形象与对话”仿真将降低诈骗门槛,甚至可能影响亲友辨识。

这一现象折射出数字时代的脆弱环节:当信任被“可制造”,社会运行成本与风险防控压力随之上升。

影响——在微观层面,个人财产安全与名誉权面临更复杂威胁,金融诈骗、商业欺诈及舆论操纵可能更具迷惑性;在宏观层面,公共安全、金融稳定与国际安全格局也可能受牵动。

巴菲特将其与核风险类比,意在提醒:一方面,技术能力一旦扩散,很难保证只被“负责任的主体”掌握;另一方面,极端情形虽概率不高,但一旦发生外溢效应强、后果难以承受。

与此同时,技术红利同样显著,其在医疗、工业、科研等领域的应用潜能巨大,关键在于如何在创新与安全之间建立可持续的制度平衡。

对策——针对现实挑战,治理需从“事后补救”转向“前置防控”。

一是完善规则与责任链条,推动身份认证、内容标识、数据合规与安全评估等制度化,明确平台、开发者与使用者的边界责任,提高违法成本。

二是强化技术反制能力建设,发展深度伪造检测、溯源与证据保全工具,在金融、电信、政务等关键场景建立“多因子核验”与风控闭环。

三是提升公众媒介素养与风险教育,针对老年人等易受害群体开展精准宣传,推动跨部门协同处置,形成快速响应机制。

四是加强国际层面的对话与合作,围绕安全标准、滥用防范与跨境犯罪打击建立更多共识,减少“监管洼地”带来的外溢风险。

前景——从产业趋势看,前沿技术仍将向更强能力、更低成本、更广应用扩展,治理压力与创新需求将长期并存。

巴菲特在此前公开场合也强调该技术“既可能造福,也可能造成危害”,反映出市场与社会对其双刃剑属性的普遍认知。

值得注意的是,他同时谈及投资策略与风险偏好:伯克希尔保持高现金水平、耐心等待估值回归合理区间,并坚持“只做自己完全理解的事”。

这一思路对社会治理同样具有启示意义——面对高度不确定的新技术,更需要基于证据的审慎决策、明确的边界与可验证的安全机制,而非在热潮中放松底线。

在人类文明发展的十字路口,巴菲特的警示超越了投资领域范畴,触及技术进步的本质命题。

当技术迭代速度突破传统认知框架时,人类社会更需要建立与之匹配的治理智慧。

这位经历二十世纪所有重大技术变革的智者提醒我们:衡量文明进步的标尺,从来不只是技术高度,更是人类驾驭技术的能力与智慧。