逆向工程学，逆向工程学院

从Stable Diffusion、Midjourney等掀起的有关AI绘画的讨论，再到眼下于互联网上爆火的chatGPT，人工智能的热潮似乎一浪高过一浪，有关AI的话题总能让人心潮澎湃。甚至有科技界人士认为，2023年的科技主角仍将是人工智能，而不是所谓的风口元宇宙、区块链、Web 3等。但是，你有没有想过，我们关于人工智能的定义，或者当下对于人工智能的看法是否有可能完全走偏了？
至少杰夫·霍金斯持有不同的看法。尽管chatGPT看似智能到了可以写出毁灭人类的计划书、“生成式人工智能”（Generative AI）如 Midjourney 等可创作出获奖艺术作品，然而在包括霍金斯在内的众多人工智能研究者看来，在这股“深度学习”浪潮下所涌现的模型们却并不具备真正的智能。他们认为，人工智能的长期目标应该是创造出能够不断学习新任务、灵活解决新问题的类人智能机器。区别于当下这些经由大量数据训练、在执行某些具体任务上达到甚至超出人类水平的这些机器智能，上述的人工智能被称为“通用人工智能”（Artificial General Intelligence）。
霍金斯认为，要想创造出上述这种真正的通用人工智能，我们需要首先对大脑进行逆向工程。而生物学家和医学家对大脑的探索，仍然面临有很多未知，至今仍缺少一个宏大的统一理论来解释大脑的运作机制。在翻阅无数科研论文、从事脑科学研究近40年后，霍金斯提出了“千脑智能”的理论。他指出，我们的大脑之所以能理解这个世界并基于理解来行动，是基于大脑内的一个世界模型，并且大脑会通过移动和与世界的互动来进行学习，而我们的大脑中拥有关于世上一切事物的成千上万个模型，这些模型会一起工作以达成共识，以形成关于特定事物的统一的感知。千脑之“千”，即在于这些模型之众。但不管模型的数量之巨，大脑其实是基于同一套通用算法来构建和理解外部世界的。
依据“千脑智能”理论，要想通往“通用人工智能”这一目的地，我们似乎应该另辟蹊径，而不是沿用眼下所采取的大规模数据训练这条道路。霍金斯写就的《千脑智能》一书也入选了比尔盖茨2021年的年度书单，他称本书“非常适合没有神经科学或电脑科学背景的非专业人士阅读。”如果你对人工智能或人类大脑有所好奇，《千脑智能》应该会给你极大的启发。

杰夫·霍金斯
在《千脑智能》近日于国内上市之际，霍金斯接受了36氪的采访，以下为采访实录，经编辑：
36氪：请您简单介绍一下“千脑智能”理论吧。
霍金斯：随着我们的成长，我们的大脑学会了一个世界的模型。我们依靠这个模型来知道我们在哪里，识别物体，并思考未来。我们之所以能够理解这个世界，是因为我们有这个内部模型；它是使我们聪明的原因。我在Numenta领导的研究团队在理解大脑，特别是新皮层如何做到这一点方面取得了重大进展。在我的书《一千个大脑》中，我描述了这个理论。一个基本要素是，我们通过移动来学习。如果不移动并与世界互动，就不可能达到人类水平的理解和智慧。该理论的另一部分，也是令我们惊讶的一部分，就是大脑并不学习某样东西的一个模型，而是学习有关该事物的成千上万个模型。以一个简单的东西为例，比如一个咖啡杯。我们过去认为，大脑中只有一个咖啡杯的模型。我们现在了解到，大脑中有成千上万个关于咖啡杯的模型，事实上，它拥有关于所有事物的许多模型。这些模型一起工作以达成共识，这就是为什么我们有一个单一的感知。
我们推断，新皮层必须使用参考框架来组织我们所学的一切。因此，我们预测参考框架将在新皮层的任何地方被发现。有越来越多的证据支持这一假设。但正如你所说，将参照系与更多的概念性和抽象性思维联系起来可能很困难。在我的书中，我就这个话题写了一整章。我讨论了如何将历史和数学理解为基于参考框架的。但说实话，我们离完全理解这一点还有一段距离。
36氪：关于大脑新皮质，您感到最为激动人心的研究发现是什么？
霍金斯：我们的研究带来了许多关于神经元、大脑中的电路和整个新皮质的令人兴奋的发现。但现在最令人兴奋的是，我们已经开始创造出在相同原理上工作的机器。当我们开始研究时，我们认为更好地了解大脑对于制造真正的智能机器是必要的，但我们不知道这将需要多长时间。现在，前进的道路已经明确。
36氪：您在书中提到了皮质柱的关键在于建立于其中的参考系，我们在思考有形物体的时候能够很容易地理解参考系的概念，但是在我们进行抽象思维或者思考一些概念性问题的时候，似乎就没那么容易能理解参考系在此发挥的作用了，您能否为我们更清楚地说明一下？
霍金斯：我们推断，新皮层必须使用参考框架来组织我们所学的一切。因此，我们预测参考框架将在新皮层的任何地方被发现。有越来越多的证据支持这一假设。但正如你所说，将参照系与更多的概念性和抽象性思维联系起来可能很困难。在我的书中，我就这个话题写了一整章。我讨论了如何将历史和数学思维理解为是基于参考框架的。但说实话，我们离完全理解这一点还有一段距离。
36氪：您在书中提到，“目标和动机不是智能的结果，也不会自行出现”，那应该怎么培养它出现呢？
霍金斯：重要的是要明白，智能并不要求有类似于人类或任何其他动物的目标和动机。智能机器不是在进化压力下为生存而重新创造的活物。目标也不会在一个系统学习世界模型时自发出现。因此，智能机器的任何目标都必须由人类来实现。这并不比为自动驾驶汽车或搜索计算机病毒的程序设定 “目标 “更困难。
36氪：您在书中说，“对大脑进行逆向工程和了解智能是人类将要进行的最重要的科学探索”，为什么说这一任务是最重要的？
霍金斯：人类所做的一切我们认为有趣的事情，都是我们大脑的产物。只有大脑才会提出问题。只有大脑才能创造出复杂的工具。只有大脑才理解通过提出问题和使用工具寻找答案而获得的知识。大脑是科学、工程、文学以及我们所取得的其他一切成就的核心。第二，我们的智力和知识是使我们的物种有趣的唯一东西。智能是人类物种的生态位。第三，通过建造智能机器，我们将能够大大增加我们关于宇宙的知识。
36氪：您说“旧脑结合错误的信念会导致真正的生存风险”，既然错误的信念与新皮质有所关联，这些错误的信念可以看做是新皮质的不足之处吗？
霍金斯：我不会说错误的信念是一个缺点。大脑是一个信仰系统。我们所相信的，以及我们对世界的内部模型是什么，是一体的。如果我们的模型不能反映实际的世界，那么我们的信念就会不准确。我们大脑的世界模型不可能是完整的，总会有不准确的地方，这就是模型的本质。然而，我们知道如何不断提高我们对世界的理解，使我们的模型更加准确。这就是科学过程。
在我的书中，专门有一章是关于信仰的。一些错误的信念改变了人类的行为，拒绝新的证据，拒绝科学过程。这些错误的信念是特别难以消除的。这是一个迷人的话题。
36氪：您对于“新旧”大脑之间的关系是怎样看待的？您认为有一天人类会不再需要旧脑了吗？
霍金斯：人类是生物动物，我们需要整个大脑来生存。智能机器不是活的生物体，我们将得以决定保留我们 “旧大脑 “中的多少，如果要保留的话。我们人类在不久的将来必须处理的一个迷人的问题是，我们是否愿意编辑我们的基因来“改善”我们的身体和大脑。我不知道这个问题的答案，但似乎不可避免的是，我们将有能力通过基因编辑改变我们的大脑。
36氪：您的书中提到了对人工智能进行探索所采取的两条不同道路，眼下我们看到基于“深度学习”和大规模数据训练的第一条道路正为人们所津津乐道，比如生成式AI所带来的变革，在您看来，沿用这条道路进行人工智能探索是否有一定的风险？
霍金斯：我不认为今天的人工智能有任何基本风险。一些人和政府如何使用它当然有风险，但今天的人工智能如果不被滥用，就会很有用。然而，我不认为今天的人工智能是通往AGI的可行途径。 正如我在书中所写，我相信有一套基于大脑工作方式的标准，智能机器需要具备这套标准。基于大脑的人工智能将按照与今天的人工智能不同的原则工作，并为人工智能的发展提出独特的挑战。
36氪：您在这本书的最后还强调了人类寻找地外智能体的探索，为什么您认为与宇宙中的其他智能体取得联系是如此的重要？
霍金斯：我认为我们不太可能与其他同时代的智能生物联系起来。宇宙几乎肯定创造了其他智能生物，但他们与我们同时存在的可能性很小。我在书中讨论了这背后的逻辑。我所主张的是思考我们如何为未来存在的智能生物留下信息，当我们可能不再存在的时候，也要思考我们如何寻找过去存在的智能生物的信息。我们目前在寻找地外智能体（SETI）方面的努力并不适合于此项任务。
人类一直在努力了解宇宙。宇宙的年龄有多大，它是如何运作的？我们是如何来到这里的，我们的未来是什么？在我看来，了解大脑和创造强大的智能机器是我们继续进行宇宙探索的最重要步骤。

书名：《千脑智能》（A Thousand Brains）
作者简介
杰夫·霍金斯
科技界一代传奇，美国有名的发明家、计算机科学家和神经科学家，于2003年当选美国国家工程院院士。Palm掌上电脑创始人，Numenta公司创始人。多年来深耕对大脑的探索，致力于解释大脑是如何工作的。他认为只有把人类智能弄明白，才能制造出像人类大脑一样工作的机器智能，著有《千脑智能》《新机器智能》。