# GPT-4答错一半，Snowflake冲99%：企业AI的胜负手在系统设计

> Training Data No. 18 中文精读

- 原标题：Snowflake CEO Sridhar Ramaswamy on Using Data to Create Simple, Reliable AI for Businesses
- 发布日期：2024-10-08
- 主持：Sonya Huang · Pat Grady · Konstantine Buhler 等
- 网页版：https://trainingdata.qiaomu.ai/ep/018-snowflake-ceo-sridhar-ramaswamy-on-using-data-to-create-simp-AnAKE8.html
- 精读字数：约 5185 字（阅读约 12 分钟）

> 本文为 trainingdata.qiaomu.ai 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。

拿 GPT-4 直接回答企业数据问题，可靠性只有 45% 上下，等于每两个答案就错一个。

这是 Snowflake CEO 斯里达尔·拉马斯瓦米（Sridhar Ramaswamy）在红杉播客 Training Data 上给出的数字。他说，Snowflake 的同类应用已经稳稳站上 90%，正在向 99% 冲刺。连那些「手握 GPT-4、养着一整支工程团队」的大客户，撞上这堵墙也会掉头来找他。

一家去年收入 26 亿美元、坐拥一万多家企业客户的数据公司，为什么把「可靠性」当成 AI 战略的核心？这场对话给出的答案非常具体。

## 他是谁：管过谷歌 1200 亿美元广告生意的人

斯里达尔是计算机科学家出身，早年做学术，自称「改行了的学者」，理由是想去影响力更大的地方。2003 年 4 月他加入谷歌，和如今的红杉合伙人 Bill Coughran 同一天入职。他管的是搜索广告，用他的话说，这是「人类有史以来最伟大的生意之一」。他负责这块业务近十年，后来统管整个广告与商务板块，到他离开时，年收入已从 15 亿美元涨到超过 1200 亿美元。

之后他拿了红杉的投资，创办 AI 搜索引擎 Neeva，想重新定义「搜索」。2023 年 Neeva 被 Snowflake 收购，他随之加入，今年接替弗兰克·斯鲁特曼出任 CEO。红杉两位主持人的开场白是：技术钻得深、商业又精的人，他们没见过几个。

Snowflake 的定位是「AI 数据云」，核心判断一句话：**围绕数据处理搭建的云平台，比通用云更适合企业用数据做事。**目前一万多家客户，去年收入 26 亿美元，站在企业数据的正中心。

## 客户在拿 AI 干什么：一个三明治

斯里达尔已经见过几百个客户。他的观察是，AI 和当年的手机、浏览器不一样，几乎没人怀疑它会带来变革，ChatGPT 的「魔法」人人看得懂，让它写首诗、画张图，意识就建立起来了。Snowflake 有数千家客户正处在实施 AI 的不同阶段。

真实需求他概括成一个三明治，两头最旺：

- 底层是数据加工。图片、访谈文字稿、临床记录这些非结构化数据，过去要立项写代码才能处理，现在喂给模型问一句就行。情感检测用个小模型，一次函数调用就够。Document AI 从合同、收据里抽结构化信息，公司文件夹里躺着的关键数字，终于能拿来做分析了。
- 顶层是把数据直接交到业务用户手里。拜耳这类客户的诉求很直白：别让员工等分析师、等 BI 工具、等一周才改一个数，现在就要答案。

这两层需求，Snowflake 都接。它的做法是把 AI 直接做进平台里，Cortex AI 是个模型花园，任何会用 SQL 的分析师自动获得 AI 能力。斯里达尔说，原本要拉一支工程队、还得担数据安全风险的项目，现在变成分析师敲两条命令、干六个小时的活。**Snowflake 的魔法，是把难的变简单。**他的客户多是银行、医疗机构、媒体公司，这些人要解决问题，没兴趣为技术而技术，总拥有成本这笔账 Snowflake 算得赢。

被问及想澄清的误解，他说以前外界总觉得 Snowflake 不懂 AI，早期主要靠合作伙伴。后来他想明白了一件事，**AI 是一次平台变革，是所有人接触软件的新方式。**想明白这一点，产品动作全变了：AI 成了 Snowflake 的中心，最重要的应用自己动手做，Cortex Analyst 就是他们第一个直接面向业务用户的产品。

主持人帕特·格雷迪把市面上的选择摆成一条光谱：一端直接用 OpenAI，数据出域，心里打鼓；另一端从 Hugging Face 拉模型全自建，安全但痛苦；中间是 Bedrock、Snowflake 这类平台。斯里达尔的回答不客气：

> 「我敢说，99.9% 的客户根本不想碰那些。他们想要的，就是一个能在十万份文档上跑起来、好用的聊天机器人，把网站上那个烦人的 FAQ 搜索框换掉。」

选 Snowflake 的理由，他归纳为开箱即用的三样东西：数据安全、治理、易用，外加一条硬承诺，**客户数据永远不会被拿去训练跨客户的模型。**他还有一个十年期的赌注：生态永远向上游迁移。祖父母那辈人会自己换化油器，手上沾满机油还挺自豪，现在没人这么干了。云存储里的数据是专用平台里的一百到一千倍，他押注十年后数据大部分躺在便宜的云存储里，用开放格式、开放目录访问。Snowflake 因此拥抱了开放表格式 Iceberg，用三个月做出云目录 Polaris。已经有客户用 Snowflake 的容器服务直接处理 S3 上的视频，抽出文字稿再存回来。

## 从 45% 到 99%，靠的是系统设计

主持人索尼娅·黄追问，可靠性怎么做到 90% 以上的？斯里达尔的回答只有三个词：系统设计。他自己说，Cortex Analyst 是 Snowflake 设计和上线过的最难的产品。拆开看有这么几层。

第一层，把问题拆小。判断「要不要回答这个问题」和「怎么回答」，是两个不同的子任务，用不同的模型分别处理。他们还明确训练模型学会拒答，答不了的就明说。

第二层，限定问题域。Cortex Analyst 建立在客户的表结构、历史查询和语义上下文之上，不做自由问答。大客户的部署里有 20 万张表，其中几万张表名里带「revenue」，含义各不相同，每家公司对「收入」都有自己的定义。

> 「把地球上最好的模型放出去，让它面对一个随意的表结构，它真正理解其中细微差别的概率，接近零。」

第三层，接受取舍。任何称职的机器学习工程师都会给你一条 AUC 曲线，意思是压榨模型越多，它就越不可靠，没有完美答案。全部拒答能拿到 100% 精确率，但毫无用处。**可靠性和响应能力之间的取舍，必须是有意识的设计选择。**业务用户的及格线定得很高，75% 的准确率意味着四个答案错一个，没人敢用。

斯里达尔把这套东西叫「产品结构问题」。他认为优秀的创始人和产品经理，本质上是能看清该在哪儿取舍、让产品既有用又可靠的人。Snowflake 主动收窄了问题，换来每个客户听了都眼睛发亮的可靠性数字。

## 大公司提速：安全网、内环和两周承诺

帕特注意到，Snowflake 最近半年产品速度明显变快。公司越大越慢是常态，反着来很难。斯里达尔说这套打法他用过很多次，配方大致相同。

第一步，安全网。回归测试保住大功能不出事，同时分清错误的性质。数据库公司有些错误是灾难级的，数据写坏了，几个月都爬不出来。安全网要能提前发现问题，出了事也能快速脱身。

他在谷歌建过自动化实验框架：所有改动先进框架，先在一台机器上跑，盯 15 分钟确认不崩，再按 0.1%、1%、10% 逐步放量，全程带测量。有了它，工程师只管设计实验，速度自然出来。

第二步，内环效率。单个改动多快能上线，决定了总量能跑多少。Snowflake 在他来之前就花了两年，把统一产品改造成可扩展的架构，AI 功能直接受益。

第三步，领导者把优先级说清楚。每个团队的工作都是无穷的，他逼着 AI 团队做双重承诺：三个月的目标，加上未来两周具体交付什么，到期逐条对账。他的原话是，**说你打算做什么，做了你说的，再复盘改进，进步就靠这一条。**

他信奉一句话：手艺胜过战略，全天候成立。执行速度和临场反应速度，很快会盖过纸面战略。战略当然要，但世界变化太快，你猜不到哪个产品会爆，也猜不到 GPT-5 什么时候来。他引用拿破仑说过的一句更老的话：「我先投入，再随机应变。」帕特接了一句斯鲁特曼爱引用的巴顿名言，一个好计划今天狠狠执行，胜过明天完美的计划。两任 CEO 在这一点上无缝衔接。

## 模型不变强，生意照样做

帕特抛出一个做 AI 的人都经历过的场景：头两周像魔法，什么都惊艳；接下来几个月全是痛苦，这个边角案例不行，那个准确率不够，做到最后人心涣散。假如基础模型的能力就此冻结，未来几年会怎样？

斯里达尔的诊断是，问题有一部分出在 ChatGPT 隐含的「全知」人设上。谷歌搜索从来不会嘲笑你的搜索词蠢，帕特笑着承认自己天天输入蠢问题，于是大家默认模型什么都能干。他说这里面一半是正常的热情，另一半就是纯粹的犯傻。**你对语言模型的原始输出，没有任何理由直接相信，它分不清真假，也不懂权威。**

解药都是老手艺：让「有出处的聊天机器人」成为常态，每个答案标明来自哪份文档，用户随手可验证；配上测试框架和可观测性工具；上线前跑回归测试，定验收标准。模型对提示词里多一个句号都会剧烈反应，这样的东西不测就敢上生产环境，才是真风险。他的结论：**就算 GPT-5 不来，把现有模型工程化，也够整个行业干很多年。**帕特在节目里引了一句老话，人们错过大多数伟大机会，是因为它们穿着工装裤，看起来像苦活。

对 GPT-5 本身，他的判断是：圈内普遍相信它在地平线上，但没人说得清它代表什么。GPT-4o 更快、原生多模态，很酷，可推理和规划能力没让人感到台阶式的跨越。智能体概念很火，但在 Cortex Analyst 之前，可靠的「直接问数据」应用一直时灵时不灵。假如下一代模型真能突破多步推理，会释放一整类今天想象不到的应用。他个人希望不要走到训练一个好模型要花十亿美元的地步，那会把玩家缩到极少数，而竞争整体是健康的。

索尼娅问起推理阶段的树搜索，AlphaGo 那套思路能不能搬进通用模型。斯里达尔给了一个克制的回答：这类方法依赖一个模型给局面打分，AlphaGo 对什么位置占优有靠谱的判断，搜索才有意义。开放域难就难在这，他拿做饭举例，十种食材、二十个步骤，组合瞬间爆炸，可完美菜谱只有一两个，你连怎么给中间状态打分都不知道。结构化的场景他已经做出原型：AI 分析师。他十岁起就在笔记本上替父亲记家用账，做了几十年数字的人，对「数字对不上」的痛苦体会极深。当年在谷歌，每天一封 Bean Counters 邮件汇报前一天业绩，每隔几周数字不对，分析师就得下钻十几个维度排查，最后回来报告，是德国复活节和巴西耶稣升天节把数字带偏了。把现实世界这些坑建模进预测系统，花了十年。这种排查其实高度结构化，**他们的原型已经能砍掉诊断工作里六到七成的体力活。**

## 搜索、在位者与创业公司的机会

聊回搜索，斯里达尔大概是最有资格发言的人之一。谈到 Perplexity，他的态度是大方祝福：时机对了就是对了。Neeva 当年收敛到的产品形态和 Perplexity 几乎一样，只是早了两三年，时机就是一切。没人想翻八页文档找两行字，这个方向肯定对。

但他泼的冷水更值得记。**搜索这门生意靠商业合同锁死，和消费者选择关系不大。**消费者选择在很多时候是个虚构的东西，人类吃摆在面前的饭，用浏览器默认的搜索引擎。Perplexity 的产品方向没问题，难的是撬动入口。

在位者和创业公司的较量，他给了两个视角。模型这一端，开源模型加上 Meta 这种预算无限的玩家，没有云厂商或生意依附的基础模型公司会非常难，他真心希望世界不要只剩三个 GPT-5 级别的模型，那是坏结局。历史这一端，每一代硅谷公司都从上一代身上学过艺，在位者转身比想象中快。谷歌当年被 Alexa 吓到，往智能音箱里砸了堆钱，什么也没砸出来，但也没伤筋动骨，**因为颠覆的代价，远高于防守的投入。**他说 AI 是在给企业软件重新洗牌，而 Snowflake 的选择是带头打。如今每家企业软件公司都在主动进攻。

给创业公司的建议：新品类比改造老品类安全得多。图像生成、视频、语音、营销场景的定制，都是新地盘。「我有 AI，所以把 XYZ 做得更快」这类故事，他觉得跑不远。

至于 ChatGPT 会不会成为下一个谷歌，他先夸了产品：ChatGPT 把他这种自认视觉文盲的人变成了半个艺术家。他在学印地语，数字记不住，随手打了一句「给我个 CSV，把数字串翻译成印地语，能导入 Quizlet」，打字比描述需求还快，十秒后文件就下来了。过去他用 Python 脚本处理结构化数据的活，现在全用英语干。他更看好的是手机这个可控环境：把邮件里的地址复制到打车软件，这么蠢这么难的事，Siri 至今做不了，而苹果有能力强制所有应用开放语言模型接口，否则就没流量。巨大的机会，就藏在这些琐碎场景里。

## 明天就能用的几件事

节目最后的快问快答里，他最佩服在有限预算里做出基础模型成果的研究者，最爱用的 AI 应用是 ChatGPT，最希望出现的产品是能打通手机各应用的语音助手。整场对话信息量很大，挑几条明天就能动手的：

- 别把模型原始输出直接交给业务方。给应用建一套测试题集和验收标准，改一个提示词就重跑一遍，像对待正常软件一样对待 AI。
- 把「要不要答」和「怎么答」拆成两个环节，明确拒答规则。先想清楚你的场景宁可拒答还是容忍出错，再谈准确率。
- 别做万能问答。把表结构、指标定义、公司术语喂进系统，收窄问题域，可靠性立刻上一个台阶。
- 选型时直接问供应商两个数字：可靠性是多少，数据会不会被拿去训练模型或离开你的环境。答不上来的，慎选。
- 带团队的话，试试两周承诺制：说清楚未来两周交付什么，到期逐条对账。速度和质量打架，多数时候是优先级没说清。

斯里达尔在结尾说，软件过去五十年改变了世界，AI 会让创造软件、使用软件这件事交到更多人手里。这个愿景听着很远，起点却很朴素：把答案算对，把出处标清楚，把承诺兑现。