# OpenAI研究员Dan Roberts：神经网络还在等自己的热力学定律

> Training Data No. 20 中文精读

- 原标题：OpenAI Researcher Dan Roberts on What Physics Can Teach Us About AI
- 发布日期：2024-10-22
- 主持：Sonya Huang · Pat Grady · Konstantine Buhler 等
- 网页版：https://trainingdata.qiaomu.ai/ep/020-openai-researcher-dan-roberts-on-what-physics-can-teach-us-a-XJsHIo.html
- 精读字数：约 4566 字（阅读约 10 分钟）

> 本文为 trainingdata.qiaomu.ai 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。

2024年10月，红杉资本的播客Training Data请来一位即将离职的同事。Dan Roberts，红杉的AI Fellow，本科研究隐身斗篷，MIT物理学博士，博士后在普林斯顿高等研究院，爱因斯坦晚年就在那里上班。

录制这天是他在红杉的倒数第二天。节目上线时，介绍里多了一行注脚：录制时他还不知道，自己会成为OpenAI推理模型o1（内部代号Strawberry）的核心贡献者之一。

一位量子物理学家，先去风险投资机构研究AI，再进前沿实验室。这条路径背后，藏着他这期节目里最有价值的判断：物理学的老办法，恰好能用来拆解AI。

## 物理学家为什么成批涌向AI

Dan的自我介绍很简单：一个没长大的三岁小孩。他19个月大的儿子会跟着洗衣机修理工满屋转，非要看看滚筒里面长什么样。他说自己只是把这个习惯保持到了成年。定量思维的人追问「世界是怎么运转的」，一般不去哲学系，会拐进物理系。

本科时他上过一门AI课，内容全是「如果这样，就那样」的硬编码规则，加一点下棋程序。他的结论是这东西和智能没什么关系，直接把AI划掉了。一两年后去英国读研究生，撞上机器学习，思路完全变了：给一堆任务样本，写一个足够灵活的算法，让它自己适应。2010、2011年他入坑，2012年深度学习爆发。他自认运气好，刚看懂一个自己能理解的科学框架，领域就开始起飞。

Pat中途插了个大问题：智能到底是什么？Dan的答案刻意朴素：**智能就是人类会做的那些事。**研究人类，得从生物学穿到神经科学再穿到心理学，链条太长；研究AI，从几行Python一路追到它写出的一首诗，路径短得多。AI把人类能力拆成一块块样本，给了研究者一个能下手的地方。

至于物理学家为什么扎堆，Dan给了一个比跟风硬得多的理由。**物理的方法论和传统计算机科学不一样，恰好适配大规模机器学习。**物理的日常是理论提模型、实验做验证，数据、理论、玩具模型之间有一个很紧的反馈环。深度学习的日常就是这个循环：改想法，跑实验，看数据，再改。连数学工具都大量重合。

他顺带补了一句行业观察：物理学家离开学术界，历史上先去量化金融，后来去数据科学，现在轮到机器学习。这次的区别在于，这个领域干起来就像真正的物理，而且所有人都在为它兴奋。

## 神经网络在等自己的热力学

Pat问他，物理训练到底给了他什么别人没有的东西。Dan讲了一个类比，他说这甚至超出了类比的范围。

200年前工业革命，蒸汽机先被工程师造了出来，热力学是后来才总结的。理想气体定律描述压强、体积、温度的关系，全是宏观量，买个温度计、气压计就能测。定律底下是无数空气分子在碰撞。后来人们从分子的统计行为出发，严格推导出理想气体定律，甚至推导出它的修正项，因为理想气体本来就是错的，是个玩具模型。微观看不见摸不着，宏观量却稳定、可测、可预测。

Dan认为深度学习正处在这个结构的早期。微观层面是神经元、权重、偏置，几行代码就能写下整个方程，简单得惊人，麻烦在于权重的数量是个天文数字。宏观层面是它写出了一首诗、解出了一道题。**从权重到诗之间的推导关系，就是神经网络缺失的热力学。**

他和Sho Yaida、Boris Hanin合著过The Principles of Deep Learning Theory，干的就是这件事：把统计物理的方法搬过来，从微观统计行为推导网络的宏观性质。Pat提到的他那篇文章Black Holes and the Intelligence Explosion，讲的也是同一件事：物理学家受过的系统级视角训练，正好补上AI研究的短板。

## Scaling的账还能算多久

主持人Sonya Huang提到Andrej Karpathy在红杉AI Ascent大会上的说法：当前AI系统和生物神经网络的效率差5到6个数量级。Dan把它拆成两个问题。

第一个是人类的学习效率。他的小孩19个月大，已经开始说句子了，见过的token远少于任何一个大语言模型。人和模型的系统设计、学习方式都不同，这个差距存在，也意味着有弥合的空间。

第二个问题他称为「最终的GPT是几」。GPT-6？GPT-7？只要继续堆规模，总有一代会撞上硬约束：经济上，训练成本超过全球GDP；产能上，GPU造不够；物理上，算力集群铺满地球表面。**他的判断是经济约束最先到。**真正的问题是，撞墙之前还能迭代几轮，这几轮能把能力推到哪里。当然，规模和效率没法完全拆开，因为所有人都在同时把模型做得更高效。

再往下是路线之争：把GPT-2原样放大，能不能直接走到终点？纯scaling假设的答案是能，重要的只有规模。而人类级别的学习效率，在他看来需要非平凡的新想法。他去OpenAI的理由也在这里：**想法这件事还有很高的杠杆，走到下一步必须靠它。**

## 钟摆、苦涩教训和曼哈顿计划

Pat追问了一个结构性问题：AI领域是不是有个钟摆，在规模和想法之间来回摆？transformer是伟大的想法，之后大家进入规模竞赛，现在钟摆是不是摆回了想法这边？

Dan先搬出Richard Sutton那篇著名的The Bitter Lesson，苦涩的教训，大意是历史反复证明，好想法总会被规模碾压。80、90年代有一批好想法，当时没有算力去验证，AlphaGo之后DeepMind大量发论文，人们才翻出旧论文，用深度学习重新实现。现在还有人探索transformer之外的架构，甚至更简单的老架构，因为有一种观点认为，scaling law来自数据本身的统计结构，只要架构「没病」，换架构未必影响规律。

但他的答案不是单边押注。**规模和想法是协同关系。**规模极其重要，重要到此前一直被低估；GPU和模型是共同演化的，transformer之所以是个好想法，恰恰因为它被设计成适配当时的硬件。往回数80年，McCulloch和Pitts提出神经元模型，Rosenblatt造出感知机，深度学习本身就是某个人冒出来的想法。被瓶颈卡住时，人们在琢磨想法；一旦解锁新的规模，结果井喷，大家又觉得规模万能。

规模竞赛的尽头是什么？Sonya问，需不需要一个国家级的AI曼哈顿计划。Dan讲了个幕后故事。当初他纠结要不要创业，找把他带进红杉的合伙人Shaun Maguire聊，Shaun对他说：

> 「40年代，物理学家的物理学家都去了曼哈顿计划。哪怕你当时在做别的事，那也是非去不可的地方。现在AI就是同一件事，OpenAI就是那个地方。」

Dan的结论：也许不需要公共部门出面组织曼哈顿计划，它可以是OpenAI。他补了一句，就规模和雄心而言，很多物理学家会出于同样的理由想去那里。

## 黑箱算得明白，数学比物理先破

节目后半段聊到那个所有AI从业者都被问过的问题：神经网络这么深，还能被理解吗，还是注定是个黑箱？

Dan说这是他在AI社区内部的反直觉立场：**这些系统真的可以被理解。**物理系统极其复杂，人类照样取得了巨大进展，神经网络没有理由在这个框架之外。他和Sho在书里反复讲一条物理原则：极大尺度上常常出现极端的简单性，背后是统计平均，术语叫中心极限定理。单个分子毫无规律，亿万个分子加总，温度和压强稳定得能写进高中课本。他没说大语言模型里发生的就是这件事，但方法论可以搬，将来还能用AI工具帮着搬。他的判断是，理解神经网络不会一直停留在艺术层面，科学会追上来。

AI反过来能帮科学什么？他的排序很明确：数学比物理先破。理由是数学不具身，不用做实验，自给自足，离语言模型生成文本的方式最近。具体机制是Noam Brown讲了很久的推理时计算（inference-time compute）：下棋陷入残局，靠直觉不如坐下来往前推演几十步。游戏有明确的胜负信号，推演可行。数学证明里也存在「下一步」这个概念，说明某些数学问题和游戏结构相似。游戏上已经赢了，某些数学发现大概率也能赢。Noam爱举的例子是黎曼猜想。

物理更难，而且难的方式不一样。千禧年问题里有一个数学物理问题，和杨-米尔斯质量间隙有关，但Dan认为物理问题长得不像证明。物理学家以不严谨、爱挥手比划著称，强项是解释力。核心问题更像「什么是量子引力，东西掉进黑洞会发生什么」，这种问题没法直接开始生成token。物理系里大家围着黑板聊天、涂涂画画，有价值的数据也许是黑板照片、Slack闲聊和草稿纸。短期看，AI是加速器，像Mathematica帮他算积分，把两周的论文精读压缩成一个下午。他顺带道歉：抱歉，Wolfram，Mathematica能干的不止算积分。

物理圈内部还有一层情绪。Dan说还在做物理的朋友里，弥漫着一种越来越接近恐慌的感觉：如果你在乎的是物理问题的答案，杠杆最高的动作也许是去做AI，然后等AI把物理问题快速解决掉。他说这个话题在理论物理圈是真实被讨论的。

对人类难和对机器难，是两回事。Dan自嘲生物学对他完全无法理解，而他女朋友就在生物工程行业。数学、游戏、代码这类领域约束清晰、不具身，离现有模型的能力最近；越具身、越混乱的领域越难，一个能自主做实验的AI生物学家，得先解决机器人、实验设计、数据格式一整条链。路上会有阶段性产物，AlphaFold 3已经出来了，DeepMind在拿它做药物发现。至于最终会不会收敛到一个理解一切的大模型，他说大实验室都在押这个方向，混合专家（MoE）架构最初就是为了这个目的设计的，实践中并没有做到。在这个领域预测很危险，说什么都错，而且错得比预期快。

## 五年之内，scaling会终结

结尾的闪电轮，Pat让他按五个月、五年、五十年谈乐观的事。Dan先讲了个物理学家笑话：物理里只有三个数字，零、一、无穷，其他的都只是量级。

五个月的尺度上，他关心下一代模型之间的差值。估算速度需要多个数据点，GPT-3到GPT-4给了第一个点，下一个差值能让人看清模型迭代的真实速度，以及它到底有没有巨大的经济影响。

五年的尺度上，他的判断很干脆：**过去五年大家在scaling，未来五年之内scaling会终结。**要么通向某种乌托邦，经济问题消失，红杉这样的基金得关门，大家退回大富翁游戏里的纸币；要么发现需要大量新想法，也许再来一次AI冬天。他补了一句，这个领域说什么都危险，但五年足够看出些有意思的变化。

节目里还有一段关于写作的闲聊。Dan的文字以好读著称，他说这是故意的。在普林斯顿高等研究院做博士后时，他和教授Nathan Seiberg在午餐上争论：他坚持写论文是为了笑话，科学内容只是包装，好让读者被迫把笑话读完；Seiberg不理解，为什么不为科学写。后来一位学语言学的室友告诉他，规则从哪来、哪些可以破。终极标准只有一个：读者能不能读懂，读得开不开心。

把这种思路翻译成普通读者的行动，是下面三件事，明天就能用：

- **看AI新闻先分清两种进步。**规模红利靠GPU和数据堆，有明确的经济天花板；想法红利靠新架构和新方法，杠杆正在上升。判断一家公司、一篇论文的成色，先问它吃的是哪种红利。
- **用AI当自己的读论文加速器。**把想读的论文丢给模型，先让它拆结构、列问题、梳理和已有工作的关系，再决定要不要花两周精读。Dan自己就这么用，他也提醒现在的实现还有毛病，所以最后一步判断留给自己。
- **理解复杂系统先抓宏观量。**看一个新模型，先看loss曲线、评测分数这些温度计和气压计，再往下钻权重和架构。从单个分子开始学热力学，效率太低。