神经科学揭示深刻的计算与认知之道,为人工智能提供灵感;而人工智能作为神经系统的模拟,又推动着我们对大脑结构与功能的理解。
NeuroAI 与人工智能的发展
-
Transformer 只是一个模型,并不能够真正的等同于认知过程,也不是对神经进行建模的最终答案。
-
Transformer 模型在语言这个封闭领域内表现出色,但是在数学运算方面表现欠佳,因为语言模型给出的答案往往是依据语言的结构和模式,而不是通过实际的数学计算方法。
-
关于人工智能是否应该成为对于人类大脑神经的模拟。这个问题其实取决于需求,如果我们的目标是创造一个尽可能接近人类的智能系统,那么仅仅在某一些局部的功能上的高效是不够的。从实际上来说,我更加倾向于认为更接近人的智能系统的价值更大,特别是在尖端领域。
-
关于目标函数设计:接近于人的人工智能系统是一个典型的多目标系统,其与人类认知的一致性甚至有了一个专门的名词,即对齐(Alignment);对齐本质上是多目标系统对于不同目标之间的权衡;
-
关于生物进化的新的理解:生物体通过进化形成了一种架构,可以引入新的目标,同时保证这些新目标能够与现有目标进行合理互动,这个框架其实是生物进化过程中的宝贵财富。
-
关于发育:发育是一种深层递归过程,而学习可以被看作是发育过程的延续和扩展;发育的核心原则之一是,通过递归地应用一组相对简单的规则,从而产生出相对复杂的系统结构;从生物学上来看,DNA 并没有足够的容量来指定人类大脑的完整结构,而是编码了必要的递归规则,我们无法从 DNA 的信息中直接获得一个完整的智能系统,不断的发育过程是必要的。
-
网络的递归生成:在网络的不同阶段,网络需要解决的问题并不相同,上一个阶段的问题为下一个阶段的问题奠定了基础