最近，我在斯坦福大学的一篇文章中读到了神经科学家Grace Huckins的观点，她提出了一个令人深思的问题：”虽然强大的AI工具和海量数据集正在推动实际进步，但它们可能没有深化我们对宇宙的理解。”
这句话像一记重锤，敲在了我的思考深处。在这个AI大爆炸的时代，我们每天都在惊叹于技术的进步：AlphaFold预测蛋白质结构的准确性超越了实验方法，大型语言模型能够写出看似有深度的文章，AI系统可以识别出人类肉眼无法察觉的模式…但是，这些进步真的让我们更理解这个世界了吗？
一个被遗忘的”微处理器论文”
Grace Huckins在她的获奖文章《理解的终结》中提到了一个有趣的实验，被称为”微处理器论文”。这个实验由宾夕法尼亚大学教授Konrad Kording和他的学生Eric Jonas进行，他们试图用神经科学的方法来理解一个计算机芯片的工作原理。
听起来很疯狂，对吧？他们不是去阅读芯片的技术文档，而是像研究大脑一样，记录每个”神经元”（晶体管）的电活动，观察当单个”神经元”被破坏时”行为”如何变化。他们收集了大量数据，使用了当时最先进的分析方法，但结果令人沮丧：所有这些数据并没有帮助他们理解芯片是如何工作的。
“我们的结果远远达不到我们所说的令人满意的理解，”他们写道。没有新的理论和分析方法，更多的数据不会帮助任何人理解大脑的工作原理。
这个实验已经过去了近十年，但它的警示意义在今天显得更加重要。神经科学对数据的迷恋只增不减：西雅图的艾伦研究所正在详尽编目人类和小鼠大脑中的神经元，去年，一个国际科学家联盟发布了果蝇大脑的完整图谱——包含超过1000万个个别的神经元到神经元连接。
而分析这些数据的工具也随着深度学习和生成式AI的崛起而变得更加强大。在过去的几年里，神经科学家们已经使用AI工具来编写能够激活大脑特定区域的句子，模拟婴儿大脑学习如何响应视觉世界的过程，甚至仅根据大脑活动重建某人正在收听的播客节目。
但是，尽管这些研究极大地提高了我们操纵人脑、解码其活动并在计算机中准确建模的能力，但它们对大脑如何完成所有这些非凡事情的洞察却相当有限。
理解与预测的分离
Grace Huckins指出了一个核心问题：我们正处于科学运作方式发生根本性变革的时期。以前，科学的目标（开发新技术和干预措施与理解宇宙）是同一个目标，但现在大数据和AI已经分离了这两个目标，我们有责任决定哪个更重要。
“数据给了我们不需要理解周围世界的许可，”她写道，”它是否会让我们失望，取决于我们如何使用这种许可。”
这种理解与预测的分离在AlphaFold的例子中表现得尤为明显。AlphaFold是DeepMind开发的蛋白质结构预测系统，它在2020年的CASP14评估中取得了突破性的成功。让我通过一个表格来展示AlphaFold与传统方法的对比：
作为比较，一个碳原子的宽度约为1.4 Å。AlphaFold的精度已经达到了原子级别，这在以前是不可想象的。
但是，正如Grace Huckins所指出的，”AlphaFold是一个巨大的、极其复杂的系统，没有人理解它是如何工作的。它能做出很好的预测，但这些预测的来源是一个谜。”
这种情况让我想起了William Burns在《硅幻觉》一文中的观点：”AI在科学中的应用可能掩盖了比它揭示的更多的问题，加剧了它声称要解决的问题。”
AI：没有理解的预测机器
大多数AI系统本质上是预测机器：它们处理大量数据以找到统计模式，从而能够从输入预测输出。在获得数据之前，这些系统并不智能。它们无法访问我们人类用来理解世界的任何理论或模型，因此它们需要大量数据来发现所需的模式——远远超过任何人类能够理解的数据量。
而且因为它们非常擅长处理大量数据，它们可以做出比任何人类都更好的预测——无需理解。
在过去的几年里，AI系统已被用于预测各种科学学科中的各种结果。它们可以识别哪些分子可能成为良好的抗生素，选择哪种抗抑郁药可能对特定患者最有效，并设计新型电池。我们还没有能够解释为什么特定患者对Prozac的反应比Zoloft更好的抑郁症理论。但有了AI和大数据，这不再是必需的。
Grace Huckins提出了一个发人深省的问题：”如果AI系统真的赢得了诺贝尔奖，它不会是第一个在没有理解的情况下实现这一目标的代理人：Alexander Fleming偶然发现了青霉素，从而拯救了无数生命。但没有理解的创新的系统化，不啻为一场革命。几个世纪以来，理解一直是实现科学最受赞誉的实际、预测依赖目标——技术创新、灾难预测、药物发现——的关键步骤。随着理解在这个过程中越来越被边缘化，我们正在进入一个新的科学时代。”
科学理解的危机
这种理解与预测的分离并非凭空出现。William Burns指出，科学本身在过去二十年里一直处于一种智力危机中。例如，人类基因组项目曾预期会带来新药物的繁荣，但未能实现其最乐观的承诺。
2008年，一家大型制药公司的科学家在一篇文章中发现：”公司为增加新药输出所做的一切都没有奏效，包括合并、收购、重组和流程改进。”
当前危机的原因不仅仅是运气不好或管理不善。已故的Carl Woese，一位反对”工程化”生物学的特立独行者，曾在2004年写道：
“允许生物学成为一门工程学科，允许科学滑入改变生活世界而不试图理解它的角色，对社会是一种危险。”
他主张科学应该寻求理解世界，而不是主要为了改变它。
理解的三个维度
在一篇发表在Nature Reviews Physics上的文章中，作者们提出了计算机辅助科学理解的三个维度。虽然我无法获取完整内容，但从摘要中可以看出，他们试图回答一个核心问题：”先进的计算系统，特别是人工智能，如何能够促进新的科学理解或自主获得理解？”
这个问题正是Grace Huckins所关心的。她并不是全盘否定AI在科学中的作用，而是担心我们可能会因为追求预测和实际效益而忽视了理解的重要性。
我们需要什么样的科学？
作为一个长期关注AI发展的人，我深深被Grace Huckins的观点所触动。在这个AI大爆炸的时代，我们每天都在惊叹于技术的进步，但我们是否停下来思考过：这些进步真的让我们更理解这个世界了吗？
AlphaFold可以预测蛋白质结构，但我们真的理解蛋白质是如何折叠的吗？大型语言模型可以生成看似有深度的文章，但它们真的理解语言的意义吗？AI系统可以识别出人类肉眼无法察觉的模式，但它们真的理解这些模式背后的原理吗？
这些问题不仅仅关乎科学，更关乎我们作为人类的本质。理解世界是我们人类的基本需求之一，是我们区别于其他生物的关键特征。如果我们把这种能力完全交给机器，我们将会失去什么？
Grace Huckins的观点并不是要我们拒绝AI和大数据，而是要我们重新思考科学的本质和目标。她认为，既然大数据和AI已经分离了科学的两个目标（开发新技术和干预措施与理解宇宙），我们有责任决定哪个更重要。
在我看来，理解应该始终是科学的核心目标。预测和实际应用固然重要，但它们不应该以牺牲理解为代价。正如Carl Woese所说，”科学应该寻求理解世界，而不是主要为了改变它。”
