中位数答案已经免费，产品还靠什么分开？｜AI Engineer × Hariprasad Sudharshan

肯尼迪机场不再起飞，地铁停在下一站，刷卡支付全部失效，电梯不知道自己在哪一层，电话不响，华尔街停摆。Hariprasad Sudharshan 问观众，什么能让纽约和整个现代世界同时停住。他的答案是软件。托住这些系统的，是人用规则写了几十年、每次运行结果应当相同的确定性程序。心脏起搏器和 747 上用的就是这一类。

原始来源：I Spent Two Years Building the Median — Hariprasad Sudharshan。中文深度整理，非逐字翻译。本文依据 YouTube 自动生成的英文字幕，专有名词和数字可能有识别误差。

模型周围仍是确定性软件

他做了将近二十年产品。航海、农业、建筑、天文学早就有过别的形态，软件在他眼里是真正的新行业。从上班到看这段视频，从核反应堆到空间站，共同的一层是软件。他先后把这层软件说成托着 125 万亿和 100 万亿美元的经济。两个数字对不上，适合当作修辞。Y2K 是他用来想象停摆的旧例。

画面左边是工程师。人被雇来，成为每个产品的判断来源。工具链是一条确定性的反馈：汇编器做出 C，C 做出 Unix，Unix 做出后面的一切，再到 Kafka、Zookeeper，以及今天运行很多系统的 Kubernetes。这张图里唯一的判断是人的判断。人与人的差别，是产品差异开始的地方。

AI 这一格被他换成租来的模型。工程师被协助、被驱动，有人声称已经完全自主。好处是前沿模型和 harness 变得谁都能调用。Harness 是套在模型外的一层：工具、上下文、指令、编排、记忆和工作流。以前请不起 Google、Meta 那种人才储备的团队，现在可以用 API 买到智能。有人据此声称软件问题已经解决。他把镜头拉到模型外面。Harness、智能体、工具、MCP 仍是那套确定性软件。MCP 是模型上下文协议，模型借此调用外部工具。做这些部件的人清楚自己在写什么。世界每天要的结果没有换：同一件事，每次都可靠地发生。最终交付物仍是驱动经济的确定性软件。

AI 在他这里有两个用途，时间尺度是未来五到十年。一是用尽可能低的成本，加快确定性软件的开发。二是把过去因为预算、不够有趣或太难而没被写出来的确定性软件写出来。概率性的齿轮用来转动可靠的确定性软件，方式是增强人的判断。也有人会把话说到替换。可能与否，他留到后面再看。

125 万亿和 100 万亿不能互相印证。字幕多次把 harness 听成 hardness，下文按 harness 理解。「完全自主」是他听到的声称。

几十分的 Elo 差，进不了路线图

他用 2015 年的一场百米做尺子。九个人的差距只有 0.27 秒。加特林以 0.01 秒丢掉金牌。测量能分出博尔特那一晚赢了。换一晚，名次可以完全不同。他自己跑一百米，字幕听成十几秒，和十秒那一档对不上，具体成绩没有说清。职业人士告诉他，场上差距小到世界纪录保持者站上跑道也不构成胜负。粉丝会偏心。这种偏心不该成为董事会里的路线图。

斯坦福一项近期研究把六个实验室放在一起，分差是几十个 Elo。Elo 是由模型互相比出来的相对评分。榜单随每次发布改写。饭桌上的问题变成：你在用哪个模型，用完觉得自己聪明了多少。他念的两个数是 Anthropic 1503、Mistral 1460，相差 87。这 87 分不表示 Anthropic 比 Mistral 聪明 87 分。它只说明在那套评测环境里，谁排在谁前面。

他在多个组织里看到的错位更具体。人们以为在比模型，比的常常是 harness 或产品。Claude Code、Cursor、Codex 之间的比较，接近拿牙买加和美国比：一个是运动员，一个是运动员外面的训练体系。模型是运动员，也是引擎，提供底层能力。Harness 决定引擎怎么被使用。产品决定别人为什么在意。

Elo 来自他转述的斯坦福研究，节目没有给出论文题目和评测集。0.27 秒和 0.01 秒是他陈述的比赛事实，字幕没有注明是哪一场的官方成绩。分数若有识别误差，他反复强调的是：这是相对名次。

同一道题会得到中位数

引擎和随引擎而来的 harness 可以租。有的绑得很紧，有的比较松。以前公司靠工程师思维的差异，在不同领域站住。模型不关心谁在打字、人在哪个国家、职级是 E6、E7 还是 E1。这几个代号是他用来称呼不同级别的工程师。同一道题、同一套工具，下一个人拿到的就是你拿到的。他把这个答案叫做中位数。每次发布，已经解决的问题进入模型，中位数往前移，像软件自己的发布节奏。他承认这里做了大幅简化。

中位数好到可以发布，也难和别人的发布区分开。下一个人或竞争对手可能做出相似甚至相同的东西。他说这在 2023 年之前不会发生。那时中位数产品贵，要团队、时间和技术栈。现在，已经被解决的问题是免费的，而且对所有人免费。大家一起去找客户，相似产品涌进市场，护城河转到分发。

他指向 GitHub 自己的数字，用来说明模型和 harness 正在产出大量新软件。他认为这些软件质量不差，结果却相似。他拒绝用抄袭来解释：模具相同，人走到同一个答案。业界把这类产物叫做 AI slop。他想换掉这个贬义。

两周前他发出一个 iOS 应用。嵌入式和客户端以前是两条车道，他没想过自己会做应用。AI 让更多人成为开发者，他明确说这是好事。slop 被使用时没有经验分析。字幕里的数量是十万级仓库、上百万个 AI 应用，以及在 Lovable 和 Replit 上看到的几百万人。成功可以是收入，也可以是做给同事看的网站。这些数都没有方法。

把好问题指向编程代理，今天多数时候有用，成品常常相似，因为同一把刀切进同一块面团。内部使用可以继续。别把它计成差异化。九十年代搜索也是爬虫加索引，新颖的那一点决定谁站上去。他说，今天大多数你能想到的软件，中位数已经免费。公开市场里要比，就得有新颖性。

GitHub 的数字只被提及，字幕没有念出，本文不补。「2023 年之前不会发生」是他的断代。

先做再搜，会落到第几千个检索系统

模型变好之前他就在做。公开做过十几个应用，给 LlamaIndex（字幕写成 Lama index）和其他仓库贡献过代码。过去三年既兴奋又累。他要展示的项目想解决真实问题，结果停在中位数上，这出乎他的预料。

他把新习惯叫做先做反射。以前建造贵、难，他搜索多于动手。现在把问题丢给编程代理，比去读那些冗长材料再做决定更容易。人变得不想做决定。于是让代理去做一个 RAG 系统。RAG 是检索增强生成：把文档切块，放进向量库，再拿来回答问题。两分钟内脚手架出来，两小时能给一个能跑的演示，四周内可以带着支持上线。然后才发现，自己做的是第 400 个或第 4000 个 RAG。他问代理：更成熟、功能更多、有几千星的开源系统已经在，为什么还要做。三年前不会做。代理承认：你说做，我就做了；你若事先说明，我会走另一条路。

中位数 RAG 是已解决的问题。第一次做仍会兴奋：一份 PDF、一个后端大模型、切块和向量库。小胜带来多巴胺，他承认自己也会中招。

头两年的代表项目耗掉了出门、聚会和电影之夜，像停不下来的棋。平台能开的他都开了，有最高档，也有免费档。软发布时他很振奋：过去要一个大团队和架构师，这次他一个人做完。圈子里的人说别处见过类似计算器。他核对过公开和闭源的几套，有的地方相同。没有人抄谁。大模型路由也在收敛，像你和竞争对手雇了同一批开发者。

两年里几乎每个让他兴奋的想法都先做。结果要么车道里已经有两三个人，要么他先到，休一个月回来已经有 60 个相似产品。分发更好的那个赢。

第 400 或第 4000 是他随口的数量级。60 个相似产品是他休假回来的观察。代理那句认错是一次对话。

开工前先写下一单位新颖性

他给 AI 软件生命周期加的词是新颖性预算。至少一单位真正的新颖，像 PageRank 之于 Google，就能在一段时间里跨过中位数。选定一个问题，立志做成世界上最好的解法，才有机会从人群里出来。

头两年他日夜耗在架构、智能体设计、提示链、技能和别人分享的 Claude 工作流上，输出常常相似甚至相同。重做计算器时，时间几乎全部放在如何区分，不再展示 Claude Code。模型给出的中位数没有立场，它是收敛后的最佳实践。两年里在多个最高档计划上烧掉几百万 token 之后，他觉得别的都已免费，回报最高的是新颖性预算。开工前先说出那一件新颖的事。说不出来，就用已经有人做好的解法。他说你提一个还没有解法的问题，他都能找到现成的。新颖性写进路线图，用审查开支的方式审查。说不出名字，就承认这是学习。

他说整理出四条规则，要当路线图用。产品会有双胞胎，有时还是开源的，能复用就复用，能分叉就分叉。字幕里随后数清楚的有三条。立场要强：助手给的多半是常见答案，观点是最便宜的新颖性，模型供不了。从提示到上线是中位数路径，内部使用没有问题。代理说做完了，就是中位数已经交卷，人的工作从这里开始。这些代理免费送出的是上一个伟大设计。下一个 Kubernetes、Zookeeper 或 Kafka 不会由它发明。脚手架它做得好。你要找到下一块积木。

可以读成：编号之前的「复用、分叉」就是四条里的一条。若字幕漏了单独的第四条，本文不补。

给负责人三个问题。他过去一年严格执行，也分享给多家机构的负责人。负责人的直觉停在「一个团队、一个季度才交付」的年代。新工程师拿演示出现，声称做完了那份工作。只读文章校准不了，要自己做。三个问题：谁已经做过，用来压住先做反射；我们有什么是下一个团队没有的，更好的提示只会再给一份中位数；这个应用将住在哪里。没有分发，演示是昂贵的发现方式。

几百万 token 没有按账单拆开。三个问题没有使用前后的对照实验。

开源权重和能吐出 token 的系统隔着多层

他用这三个问题回头看计算器。开放模型和能产生 token 的系统之间隔着什么，企业要付什么。开源权重正热。能稳定吐出 token 的推理是另一层。他碰壁之后才分开这两层。中间有十层。实验室被当成理所当然，后面是另一套规模的 MLOps（机器学习运维）和 SRE（站点可靠性工程）。他点到精度、KV cache、批处理、执行并行，以及不同切法。KV cache 是把已经算过的键和值存下来，避免重复计算。有的层要雇专家。他不知道专家从哪来，这种技能行业里还没有普及。第九层是利用率，结构性的，买不到。

先前展示的 244 个计算器都没做这件事。他把应用改成：同一套权重，在企业内部跑，和放到 neo cloud 上按 token 取用，成本差在哪里。Neo cloud 是他用来称呼按 token 提供算力的新兴云。想部署开源权重的企业反馈很好。权重免费。二维码指向的计算器开源、免费，把工作负载放进去看。

过去三年，有了大模型和 harness，建造容易得多。末端仍要确定性软件。中位数产品有用，他也发布。公开竞争里耐用性弱，分发极大时也许还在。把一个问题追到全世界最好，未必解得开，意图会把你放到中位数上面。两年花在中位数上是教育。确定性软件仍托着这套经济，至少在可预见的未来如此，以后也可能一直如此。AI 让人写得更快。新颖性稀缺，中位数免费。

十层没有列全，第九层没有定义表。244 的统计口径没有说明。演讲没有念出对照账单。字幕在致谢处收束，没有半句截断。