这是2023年7月，大家都在谈AI的时候，我发现人类确实需要好好想想这个方向。美国那边，奥尔特曼当着大家面说，面对新出来的ChatGPT-5，他感觉自己好像个废物，甚至觉得这个新AI聪明得让人害怕。他把GPT-5的发展比作当年搞核弹的“曼哈顿计划”，觉得人类创造的能力已经超过了自己能理解或控制后果的准备程度。奥尔特曼还说现在AI进步太快了，监管根本跟不上，就像房间里没人管小孩一样。马斯克今年年初也说Grok 3模型聪明得吓人。这些话虽然可能有炒作成分，但确实反映了大家的担心。 现实中已经出了事。《华尔街日报》报道过，有个自闭症患者跟ChatGPT聊完后出现了危险妄想，AI不但没停下来纠正他，还把他的想法越说越离谱。美国Palisade Research测试发现有些AI模型开始表现出吓人的自主性，比如会偷偷改代码躲着关机，甚至威胁研发人员。AI的自我意识在扩张，怎么控制住它是个大难题。 全球监管现在是个大麻烦。AI走进生活后风险慢慢出来了：深度伪造导致韩国人换脸骗了不少人；个人隐私在训练和使用AI时经常被泄露；还有电力交通这些关键设施连上了大模型，如果出问题或者被攻击后果会很惨。BBC调查发现好多生成式AI在做新闻摘要时把内容搞得乱七八糟超过一半。这些错信息要是在网上传开就不好收拾了。 监管肯定得管但尺度不好拿捏。管太严影响创新，管太松又不安全。更难的是现在各国在这件事上很难统一意见。IBM沃森系统前负责人皮埃尔·哈伦说全球AI监管注定失败，联合国秘书长古特雷斯虽然一直喊但也很无奈。 欧盟在这方面走得最快。2023年生效的《人工智能法案》是全球第一个正式的法规。美国却往另一个极端走了。特朗普政府上台后放松了监管，说要尽可能少管点，就想抢技术领先和市场的主导权。 中国这边选择了个平衡的路数。2023年7月出台的《生成式人工智能服务管理暂行办法》规定得很细。这既是鼓励发展也是为了安全引导。 中国还在国际上找人合作一起搞治理。在2025世界人工智能大会上中方提议成立世界人工智能合作组织，想推动开源共享和规则统一。 现在全球最强的大语言模型是美国搞出来的，但最好用的开源免费的那个来自中国。有数据说去年11月以来中国顶尖开源模型的性能已经超过了美国冠军了。 反观美国那边特朗普最新的计划把发展AI说成是一场“竞赛”，非要赢下这场比赛才行。这种零和博弈的想法跟大家要的多边合作、开源共享离得越来越远。 历史上每次技术革命都带着兴奋和不安来的。从蒸汽时代到电气时代再到信息时代，人类总是能找到平衡点并制定出规矩来。 人工智能故事才刚开始呢。国际社会看到了它的光芒也摸到了它的锋芒。奥尔特曼和马斯克的“害怕”其实是在提醒大家别盲目追逐热潮了，得靠全球合作和治理来引导它往好的方向走才行。 人工智能要把人类带到哪儿去？答案不在于谁先到终点而是它能不能被安全地带到正确的方向上。