《wired》:openai的“红色警报”

2023年的时候,《WIRED》发了篇挺严的文章,里面说至少有两位前员工刚离开了OpenAI。他们不满的是,公司在做研究的时候不太实诚,太保守了,尤其是在谈技术的坏处或者经济影响的时候。比如汤姆·坎宁安这个前经济研究员在给同事发告别邮件的时候就提到,他觉得团队偏离了真研究的路子,其实是在给OpenAI当宣传机构。首席战略官杰森·权赶紧出来否认了这些说法,强调公司是作为AI领域的领头羊,既要提问题,更要给方案。 这个时候公司正忙着跟各种政府机构还有大企业搭伙呢,靠着这些合作,OpenAI的市场估值已经冲到了5000亿美元。大家都觉得这技术以后能把工作方式全给变了。不过关于AI泡沫要破的声音也多了起来,微软联合创始人比尔·盖茨就拿它跟以前的互联网泡沫作比较。他说很多这种投资最后都会成死胡同。 过去OpenAI自己也发过不少研究报告,比如那篇叫“GPTs Are GPTs”的2023年论文,就详细列了哪些职业以后容易被AI替代。但据和公司关系密切的人跟《连线》透露,现在OpenAI不太乐意再发那些让人不开心的报告了,反而更爱发那些看着让人高兴的结果。这也不是OpenAI第一次因为做事风格被人质疑了。去年《金融时报》的报道就说,公司的安全流程好像都被搁到一边了,只想着做漂亮产品。 最近微软和OpenAI又签了个新协议,基本就是让这家科技巨头能放手去搞AGI,或者找第三方搞。不过协议里也特意规定了一件事:OpenAI不能随便宣布AGI,除非有专家小组的确认。微软那边也表态了,如果这技术对人类有威胁他们就不要了。微软AI首席执行官穆斯塔法·苏莱曼还说过,如果技术对人类构成存在威胁他们会放弃它。 不过关于山姆·阿尔特曼宣布的那个“红色警报”,大家都还在等着看OpenAI到底会怎么改ChatGPT呢。毕竟现在Anthropic和谷歌这些竞争对手也在盯着这块地盘。《连线》这篇报告给OpenAI又是一记重击。大家都说要真心实意地干研究不容易啊。