从计算机与人脑，到更像人的人工智能

计算机能轻松完成一长串精确运算，人做同样的事却很容易走神、算错。反过来，你一边聊天，一边伸手接住快要滑落的杯子，往往连动作该怎么分解都没有想过。我们最容易写成规则的事情，大脑做得费劲；那些说不清步骤的事情，它却处理得相当自然。

冯·诺依曼在《计算机与人脑》中，从零件的特性追问这种差异。他比较当时的电子计算机与神经系统：神经元的工作速度更慢，信号的精度也有限，大脑却能在很短的时间里完成复杂活动。沿着他的思路看，关键就落到了组织方式上。慢零件需要大量并行工作，有限的精度也要求系统采用适合自己的信息表达。书中关于速度、精度与逻辑深度的讨论，把“脑子算得快”这个笼统印象拆成了可以理解的问题。

换一种记数方式，换一种计算

数字计算依靠明确的数位：同样一个 1，放在个位和百位，意义完全不同；很小的位置变化，就可能造成很大的数值变化。神经系统给冯·诺依曼的启发，则来自脉冲的统计特征，例如一段时间内的发放频率。单次脉冲有“发生或不发生”的离散外观，它的产生过程和成串脉冲携带的信息却更复杂。由此，他把目光转向一种混合了连续过程、离散事件与统计表达的计算方式。

可以用一个简单的类比体会它。假如一条消息只靠某个位置的一个数字表达，读错那里，整条消息就可能变了；假如消息体现在许多次观测共同形成的分布里，少数观测的扰动就可以被其余信息抵消。可靠性于是能够从整体关系中产生。我们辨认一张有些模糊的脸，也无须先把每个像素恢复到精确值。表示方式决定了系统必须守住哪些细节，以及可以容忍哪些变化。

再看接杯子这件事。杯子还在滑动，眼睛、手臂和触觉已经陆续参与进来，动作随着新的反馈继续调整。要解释这种能力，把它想成脑中先精确算完一道力学题，再按答案执行，会遗漏许多关键过程。冯·诺依曼的比较给我的启发正在这里：计算的速度、精度、并行程度和反馈方式，可以组成不同的搭配。同一种能力，未必只有一种实现它的计算结构。

一个一个地换掉神经元

辛顿在与 Andrew Marr 的访谈里谈过一个思想实验：把一个神经元换成机器，机器接收同样的信号，产生同样的响应，并保留它与其他神经元的相互作用。替换一个之后，你的能力没有变化；再替换一个，依然如此。如果这个过程一直继续，最后留下一个完全由人工部件组成的大脑，智能又该在哪一步突然消失？这种逐步替换的设想把注意力集中到了功能组织上：材料可以更换，产生能力的关系被保留下来。

这也让神经网络的表达能力显得很有吸引力。通用逼近定理告诉我们，满足相应条件的网络，可以把紧致域上的连续函数逼近到任意精度。把大脑的状态变化视作需要学习的映射，就能理解我们为什么期待用网络去模拟它。接下来的难题在于，怎样找到那个映射。给网络足够大的表达空间，与让它经历足以学会目标行为的训练，是两个需要分别完成的工作。

一个人经历的输入，远比他读过、说过的话丰富。杯子烫手时缩回手，走错路后重新找方向，得到某个人的回应后改变对他的信任，这些经历都在塑造后来的行为。它们还有共同特点：人的行动会改变下一刻的输入，过去留下的状态又会影响这一次行动。文本记录保存了其中大量知识，却只留下了生活过程的一部分。要学到一个完整的认知系统，就需要面对这条持续发生的因果链。

会说话，是整个系统中的一种能力

大脑内部也存在可以辨认的功能分工。一个很鲜明的例子是语言与其他思考能力的分离：有些严重失语的人，仍能完成数学、推理和规划任务。Fedorenko 等人整理的神经科学证据表明，语言网络并不承担所有这些工作。人脑中那个似乎一直在说话的声音，很容易让我们高估语言在整个认知系统里所占的位置。

顺着这个分工看人工智能，我更愿意把语言模型想成一个认知系统中已经长得很强的部分。它通过语言接触了知识、推理和社会经验，也可以继续学会处理图像、声音与行动；但这些能力的成长未必同步。把语言能力与在世界中使用语言的能力分开研究，就能看到更具体的建设方向：哪些事情模型已经会了，哪些事情需要新的训练经历，哪些事情适合交给另一种机制。

还是那个滑落的杯子。感知提供它的位置和运动，动作控制不断修正手的方向，记忆告诉你它是朋友送的礼物，对损失的在意让你立刻中断谈话。它们有各自要解决的问题，也会改变彼此的工作：重要的东西更容易引起注意，注意到的东西更容易留下记忆，过去的经历又会改变下一次的重视程度。补齐这些能力，也包括让它们在同一个事件里互相影响。

试着改变下面这只杯子的温度，以及它对你的意义。滑落这件事没有变，新的感觉与记忆却会改变优先级，进而影响伸手的方式。

情绪尤其适合从这里理解。恐惧会提高某些风险的优先级，好奇会让人愿意花力气探索，依恋会让同一个物品或同一个人的得失具有不同分量。如果希望人工智能更像人，就可以沿这些作用去设计和训练：什么值得它持续关注，什么经历会改变今后的选择，什么目标能够跨越一次对话继续存在。只让回答带上高兴或难过的语气，还没有建立起这样的联系。

在工程上，这意味着可以给系统持久的记忆、持续更新的环境状态、能产生实际后果的行动，以及决定哪些结果值得追求的机制。更重要的训练发生在它们接起来之后：系统要学会什么时候回忆、什么时候观察、什么时候行动，还要让结果反过来改变自己。功能的分工提供了着手的位置，协同的经历则把这些部分培养成一个整体。

冯·诺依曼让我们看到，计算可以采用不同于纸笔算术的组织方式。沿着这个问题走到今天，我想继续追问的，是这些计算怎样共同维持一个与世界相处的主体。那个杯子滑下去时，系统看到了什么，记起了什么，为什么决定伸手，以及这次经历会留下什么。一个更像人的人工智能，就藏在这些问题之间的联系里。