openai 取消“成人模式”

3月27日,财联社的牛占林报道说,OpenAI暂时取消了在ChatGPT里搞那个“成人模式”的打算,打算把心思全放在核心产品上。在这之前,内部员工还有投资人就担心过,AI弄出的那些色情内容会给社会带来啥坏影响。好几个知道内情的人透了个底,说CEO奥尔特曼本来因为大家讨论得多,就把这个计划往后拖了,现在都在琢磨要不要彻底不搞了。其实这个功能已经晚过一次时间了,最早定在12月上线,后来又推到了今年第一季度。现在ChatGPT的用户都破了9亿了,外面的担心声越来越大,加上大家觉得这可能会让人对AI产生情感依赖,甚至让小孩接触到不该看的东西,反对的声音自然也就多了。公司也直接承认,那个成人模式已经暂停了,也不说啥时候能有动静。 这是一家估值高达7300亿美元的大公司做的决定。他们觉得在做产品的时候得搞长期研究,看看谈性相关的话题和情感依附到底会有啥影响。他们也坦白说现在还没啥像样的证据呢。这也意味着OpenAI打算放弃那些被高层称作“支线任务”的东西,把精力全用来弄生产力工具。他们甚至打算把编程助手、ChatGPT这些整合起来搞成一个“超级应用”。值得注意的是,他们之前火起来的Sora AI视频应用这次也被停掉了。公司说这是为了聚焦业务重心,顺便优化一下人力和算力的资源配置。 在现在这个大环境下搞个成人模式确实挺敏感的。与此同时,Meta这种社交平台因为产品可能伤着小孩的事正面临法律上的麻烦呢。早些时候马斯克手下的xAI拼命搞那种成人内容来吸粉,结果因为那个Grok模型乱生成包含未成年人在内的虚假图片引发了全球反对。这事儿也说明OpenAI现在的压力挺大:一方面得在激烈竞争里留住用户搞增长;另一方面又得防着伦理上和名声上的风险,特别是产品跟人之间的关系越来越模糊的时候。 有两位知情人士说过,OpenAI搞这成人模式的尝试把不少投资人给吓着了。因为这种东西风险大,赚钱却不容易。在员工里头也有不少争议有人觉得开发那种像谈恋爱一样的产品,是不是偏离了公司想让AI造福全人类的初衷?有位前高管就说:“AI不能取代你的朋友或者家人,人与人之间的真实链接才是最重要的。” 这位前高管还提到这是他离职的一个原因呢。除了社会方面的顾虑外,这个项目在技术上也挺难办的。知情人士透露说他们训练模型的时候遇到了麻烦——以前是为了安全考虑不让模型碰这些内容,现在又得让它特意生成明确的性内容。再加上用那种带性内容的数据集也很头疼比如要把那些非法行为都筛掉才行。