神经网络框架让ai像人类一样形成概念

人类的智慧很独特,能把感官经历抽象成概念,不需要再依赖感官直接交流,这也是人类和人工智能(AI)不一样的地方。中国科学院自动化研究所的余山团队跟北京的北京大学心理与认知科学学院的毕彦超团队合作了,一起搞出了一个新的神经网络框架。这个框架能让AI像人类一样形成概念、理解概念和交流概念。他们把研究成果发表了。 这个过程其实是把高维的感知压缩成低维的概念,再从概念中重构感知。传统的深度网络参数太多,概念不清晰。大语言模型呢,又太依赖人类给的语言符号。 为了解决这个问题,中国科学院自动化研究所和北京大学搞了个新神经网络框架。这个框架有个模块能把高维视觉输入压缩成低维的概念向量。然后这些向量就像钥匙一样,通过门控机制控制神经网络活动,让它完成特定任务。 还有一个有意思的地方是这个系统能自己生成新概念和概念空间。当不同神经网络的概念空间匹配了,它们就可以不用再从环境中学习知识了,直接通过概念向量传递知识。 分析显示这个系统不仅在功能上模仿了人类的概念认知,在机制上也揭示了人脑形成概念和理解概念的计算原理。现在的大语言模型能力还是受限于人类语言范畴,这个研究有望让AI有更广阔的发挥空间,比如做科学探索。 不过也有个问题要解决:怎么确保AI和人类的价值观相符?这个研究为研发下一代智能系统打下了基础。