# 模型推理能力两年没进步，这家法国公司照样帮客户一年省出 8000 小时

> Training Data No. 24 中文精读

- 原标题：Dust’s Gabriel Hubert and Stanislas Polu: Getting the Most From AI With Multiple Custom Agents
- 发布日期：2024-11-26
- 主持：Sonya Huang · Pat Grady · Konstantine Buhler 等
- 网页版：https://trainingdata.qiaomu.ai/ep/024-dusts-gabriel-hubert-and-stanislas-polu-getting-the-most-fro-nOyOtx.html
- 精读字数：约 4814 字（阅读约 11 分钟）

> 本文为 trainingdata.qiaomu.ai 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。

2024 年 11 月，红杉的播客 Training Data 来了两位法国创始人：Stanislas Polu 和 Gabriel Hubert。两人是二次创业，第一家公司做二维码，早早卖给了 Stripe。红杉在开场白里给了一句评价：合作 18 个月，这两个人的预测几乎次次应验。

Gabriel 复盘第一次创业的教训很直接：当年爱死了二维码，认定人人都会用，结果等到一场全球疫情，二维码才真正卖得动。这次创业他们先问市场能有多大。在 Stripe 学到的另一招叫「纸面记录」：走廊里聊定的事，随手写成几行发出来，省掉几十个人开会同步的时间，信任就是这样一格一格攒出来的。Stan 补了一句，跟老搭档二次创业是不公平优势，创业的酸甜苦辣全趟过一遍，配合起来像调用一个用了多年的 API。

Stan 的来头更硬核：2019 到 2022 年在 OpenAI 做研究，跟 Ilya Sutskever 一起搞数学推理。这期节目里，他先给行业泼了盆冷水：**过去两年，大模型最核心的推理能力，基本停在 GPT-4 训练结束时的水平**。两年，原地踏步。

可 Gabriel 转头就讲了个客户案例：一家公司开拓新国家市场，没招全职团队，靠几个 AI 助手审网站、核对另一种语言的公司注册文件，两条工作流一年省下 8000 小时。助手从搭建到上线用了两周，三个真人坐席配上助手干活，CTO 说每月省出 600 多个小时，还一边报数一边自嘲，你们这定价定得太便宜了。

模型没变强，时间照省。这两件事怎么同时成立，是这期节目最值得拆的地方。他们的公司叫 Dust，2023 年初创办，总部在巴黎，做的事一句话能说清：**让企业里的普通员工自己搭 AI 助手**。助手可以选 GPT-4、Claude、Gemini、Mistral 当底层模型，能连上公司散落在 Notion、Slack、Google Drive 各处的数据。Stan 当年离开 OpenAI，是因为提前摸到了 GPT-4：模型已经好用得离谱，可全世界还没几个人用上，OpenAI 当时的收入规模按今天的标准小得可笑。他总结成一句话：

> 如果这项技术真的一路走到 AGI，那就是创业的末班车。现在不上车，下一次就轮到机器来干了。

## 推理能力，两年没怎么动

这是全期最硬核的一段交锋。红杉合伙人 Pat Grady 拿微软 CTO Kevin Scott 的观点来 challenge 他：进步是指数级的，只是你隔很久才能采样一次，没采到新样本，就误以为停滞。Stan 不接这个茬：以他最乐观的预期，推理能力的进展就是没到。

他 2024 年初公开预测过「年内出现一次重大推理突破」，如今已经落空。GPT-5 也好，Claude 下一代也好，谁都没先突破。

但他认为这未必是技术天花板，问题可能出在工程上：**下一代模型需要的 GPU 集群规模大到吓人，GPU 在那个规模下随时会坏，训练又要求整个集群高度同步**。从一万卡到十万卡，中间隔着一整套还没学会的基础设施功课。瓶颈在工程，不在原理。

数学这条路他也没放弃。当年他和 Guillaume Lample（后来 Mistral 的联合创始人）分属 OpenAI 和 Meta，研究同一个方向，自称友敌。他的判断至今没变：形式化数学自带完美验证器，是研究推理能力最好的环境，只是还没到引爆点。Gabriel 转述过他的原话：数学是通往软件的门，软件是通往其余一切的门。

## 「一个模型统治一切」，两年前就错了

Dust 创立时，GPT-3.5 如日中天，做多模型接入在当时看纯属多余。Stan 的理由很简单：圈内人都知道一堆实验室正在冒头，有竞争就有分化，让用户随场景换模型，价值早晚会显现。

两年后这个判断被验证。Gabriel 给了一手观察：Claude 最新的 Sonnet 版本上线后用户粘性明显；Mistral 的代码模型 Codestral 在编程场景表现突出，他们录制前一天刚接入。Dust 后台同时接着 OpenAI、Anthropic、Gemini 和 Mistral，用户换模型的频率一直在变。

他还讲了个好玩的细节：去年某些时候，**看 API 延迟曲线就能知道旧金山几点**，西海岸的工程师一睁眼开始干活，延迟肉眼可见地爬上去。

关于未来，Stan 给了个双峰分布：要么技术继续高速进步，大实验室持续竞赛，「随时换到当下最强模型」的需求长期存在；要么技术进入平台期，token 生产彻底商品化，几年后你在 MacBook M6 上花几小时就能训出一个 GPT-6，每家公司都有自己的模型，路由需求反而消失。

开源模型他也押过：今年开源会短暂登顶。目前没实现，开源一直在追赶，Meta 是他点名最值得关注的力量。但他提醒了一个容易被忽略的点：**最强的开源模型必然是最大的模型，大到即使权重公开，也没几家公司跑得起**，光跑起来就得八张 GPU。所以无论模型开放与否，API 推理的需求都会长期存在。

## 口号：PMF 之前不买 GPU

2023 年上半年，无数创业公司融着钱训自己的基础模型。Dust 的内部口号是「No GPUs before PMF」，翻译过来：产品市场契合之前，不买一块 GPU。

这个判断的底层是对微调的不信任。当时咨询公司卖着成堆的 PPT，劝大公司花钱微调。Gabriel 总结了两个坑：微调贵，而且要反复做，没人告诉你得多久做一次；拿公司数据微调，方向本身就错了。真正起作用的是另一件事：**控制模型能看到什么数据，控制每个用户能看到什么数据**。他们做 RAG 的时候，这个词还没流行起来。

Pat 追问，为什么笃定瓶颈已经从模型转移到了产品和工程。Gabriel 把企业部署拆成两层：老问题照旧，CSO 要管权限、护栏、可观测性，这些是几十年的老软件问题，只是现在要装在助手这种新界面上；新问题也冒出来了，当一半的操作由非人类执行，权限控制就得重新定义。2020 年的权限体系只回答「你能不能看这个文件」，2024 年得回答「助手能不能看，看了之后给你的摘要里该隐掉哪些段落」。

这套东西，模型厂商不会替你做。**应用层比很多人以为的厚得多**，这是他们创业的起点。

## 几百人的公司，造出几百个助手

红杉投资人承认，头六个月他一直追着问同一个问题：你们最头部的用例是什么？Gabriel 说，几乎每个来聊 Dust 的人眼睛里都写着同一个念头：找到那个最大的用例，然后做一个垂直产品把它吃掉。

他们的答案是：故事的全貌是碎片化。

Gabriel 用了个工具箱的类比：用户分得清螺丝刀和锤子，需要螺丝刀的时候递过去一把锤子，他会很失望。**别把路由问题藏起来，给用户一个万能神谕；把积木暴露出来，让人自己搭**。结果是一个几百人的公司里跑着几百个助手，很多场景两个创始人自己都想不到。

激活曲线有个固定模式：第一个用例上线，用量起来；横向铺第二个，用量再涨一点；然后是一段平缓期，慢悠悠地涨；到达某个临界点后突然起飞，**冲到全公司 70% 的人都在用**，而当初立项时定的那几个用例，在总用量里变得无足轻重。收益分布也不均匀，有客户反馈有的部门提效 80%，有的只有 5%，还不确定测得准不准。规律是：助手和真实工作流贴得越近，收益越明显。

具体用例分三类。意料之中的是销售、客服、市场团队的检索加生成：回工单、写跟进邮件、按公司口吻写博客。让他兴奋的是另外两类：

- 个人教练。入职头几年的年轻人每天问助手：今天表现怎么样？能不能拆解我这两天的 Slack 和 Notion 记录，指出哪里可以说得更精确？同事反馈我讲话太理论化，帮我看看这两条要发出去的消息怎么改？
- 跨职能翻译。不懂代码的人让助手把最近合并的 pull request 讲成人话；工程师不用等 PM 转述，直接让助手从一小时的销售电话里挖技术要点。

数据孤岛之间的墙，就这么被助手翻过去了。

Pat 给了个类比：世界上有无数垂直应用，可大部分工作还是发生在表格里，因为表格人人会用、够灵活、随取随用。Dust 想做的像是「未来的表格」。红杉的 Konstantine 补了个更贴身的说法：像 Slack，只是你发消息的对象从同事换成了助手，而且它们真的替你干活。

还有个观察：谁在搭助手，比搭了什么更重要。Gabriel 说 Dust 像一台热追踪仪，专门探测公司里的高潜力人才，因为最活跃的用户往往职级不高、手头一堆重复任务、以前就爱写脚本偷懒，而且明确表示不怕被拿走重复劳动。Konstantine 补充，两家合作以来见到的重度用户大多是 25 岁以下的年轻人，没被旧流程驯化过。

## 增强人，别急着替换人

Dust 的产品信条是「增强人类，而非取代」。Gabriel 特意解释了这话的分量：**给未来五到十年还有工作的人，配一副最好的外骨骼**。这是完全不同的两种销售对话，一种是「明年帮你从运营成本里砍掉多少钱」，另一种是「你的聪明人每周有多少时间耗在搬运过时的幻灯片上，有多少潜在机会因为信息不通畅而没人看见」。

他连「生产力」这个词都警惕。生产力有两种：把同样的事做得更快，以及去做更好的事。老板不会因为你没做分配的任务、却给公司拿下最大的一单而生气。越往职业后期走，越明白关键是影响力，付出只是手段。另一个他刻意回避的词是企业搜索：没人早上醒来会因为第一次就搜对了文档而高兴，人们只想把活干完，搜索只是顺便被助手干掉的一步。

关于自动化顺序，他给 CEO 们的问题很刁钻：

> 你想先自动化哪部分？我的反问是：你最担心公司的哪个部分？很多 CEO 最慌的就是客户在工单里骂什么。把这个问题变隐形，成本表好看了，代价可能是你摸不到产品该往哪改的脉搏。

他的原话更狠：把 100% 的客服工单自动化，省下的钱看得见，可产品团队靠工单里的抱怨活着，甩手不管式的替换会把这些信号一起烧掉。**比从资产负债表上抠 3% 大得多的事，多着呢**。

还有一个贯穿全场的判断，值得单独抄下来。Gabriel 说，人类正在经历一场工具史上的大迁移：从计算器技术，按同样的键出同样的结果，迁移到随机技术，问同样的问题得到略有不同的答案。**这是计算机诞生以来工具使用方式最大的一次转变，整个职场都要换脑子**。换脑子的前提是风险回报比能让人接受：我不要求它 100% 正确，我要求它给我的草稿一次又一次帮我省时间。

部署这事也有个前提：高层先上桌。Gabriel 前一天刚跟一位公司的首席人事与系统官通完话，pitch 才讲五分钟就被打断，对方连珠炮似地说：这个主题我做过演讲，写过博客，什么时候能演示？信用卡插哪？领导层相信这件事，安全团队才会从拦路石变成帮手，有的公司高管会上直接互相问：上周你用 AI 增强了自己的哪个工作流？

## 明天就能用的四件事

这期播客信息量很大，挑四件周一上班就能试的：

- **选试点团队别拍脑袋**。Gabriel 给的方法：发个问卷，问同事过去七天里有多少天在个人事务上用过 ChatGPT，按频次降序排列，排前面的就是你的试点小组。他们懂随机性的脾气，能忍受早期的不完美，因为见过十倍回报的样子。
- **别找「最大用例」，发工具箱**。先部署一个用例，跑通后横向铺第二个，做好心理度过一段平缓期。真正的爆发往往来自没人预设的场景，你要做的是让每个人都能自己搭助手，然后观察哪些人最先动手。
- **砍自动化清单之前，先回答一个问题**：公司里你最担心、最想随时知道状况的是哪部分？那部分别做成全自动之后无人查看的黑箱，留一条人能看懂的信号通道。
- **给自己换算一下风险回报比**。用 AI 的合理预期是「十次里有八次给我省时间的草稿」，达到这个标准就该用，别因为偶尔翻车退回手工作业。

最后放一句 Stan 在快问快答里的预测，给狂热降降温：接下来会进入一段难熬的时期，热度下降，技术到下一阶段需要时间，价值巨大但扩散缓慢。短期悲观，长期乐观。快问快答里他选的最欣赏人物是共事过的 Ilya Sutskever，评价是天才领袖多过天才建造者；Gabriel 选了同胞 Yann LeCun，欣赏他总在提醒大家：人类用一杯水加一个三明治的能量就能做出相当不错的决策，大模型烧掉一座电站规模的数据，某些事上还是没做明白。

Stan 给法国创业者的建议，对所有硅谷之外的创业者都适用：他在 Stripe、OpenAI 待过，跟红杉合作过，那些地方全是普通人，**没有任何魔法，别把对岸神化**。