代币涨了六十倍,合并一个 PR 为什么更便宜?|AI Engineer
- 原始标题
- Tokens Are the Cheap Part — Steve Jamison, Jellyfish
- 节目 / 来源
- AI Engineer
- 嘉宾
- Steve Jamison
- 原始发布日期
- 2026-10-14
- 内容类型
- 演讲 / 工程效率与 AI 成本
- 原始内容
- 前往原始来源 ↗
AI 账单一年涨了 60 倍,每位工程师合并的 PR 涨了 43%。单看这两个数,董事会问不出该加预算还是该封顶。Jellyfish 的 AI 研究负责人 Steve Jamison 在 AI Engineer 上的做法,是把工资和代币放进同一个桶。
原始来源:Tokens Are the Cheap Part — Steve Jamison, Jellyfish。中文深度整理,非逐字翻译。本文依据视频英文字幕。花费、吞吐和回滚都是讲者对 Jellyfish 平台数据的归纳,不是独立审计。
漏掉的那一行是工资
他用的是工程流程数据和 AI 遥测接在一起的集合。花费在 2026 年初抬升的位置,吞吐也开始稳稳上升。两边都大,所以对不上。问同行公司花了 10 万、50 万还是几百万,也换算不到自己的组织。他说这两列还漏了最大的成本:开发者工资。
他把“一个已合并 PR 的智能成本”定义成工资加 AI。已合并,是因为评审时间和一定的质量门已经过了,不是只看开了多少 PR。按他给出的 2026 年 8 月数据,AI 大约是再产出一个单位已合并代码的成本的 2.5%,工资是剩下的 97.5%。代币在这个比例里是便宜的那部分。
同一年,已合并 PR 的美元成本降了 26%。这 26% 已经含进了 60 倍的 AI 账单。他研究的公司里,83% 出现了下降。多出来的吞吐把同一份工资摊到更多 PR 上,摊薄的速度超过了代币变贵的速度。
花得最多的那五分之一,降得也最多
按每人代币用量分成五档。最轻的一档,AI 大约只占 PR 成本的 0.3%,量级是每位开发者每月约 6000 万代币。最重的 20%,AI 占到 8.5%,约每月 25 亿代币,差了两个数量级。
吞吐上,下面五分之四的涨幅大约在 40% 上下。最重的一组是 67%。单位成本上,各组都在降;最重的一组降了 32%,其余大约 25%。他的读法是:单位成本的变化主要仍由吞吐驱动,不是由 AI 账单驱动。工资被摊得更薄。
曲线的形状是先陡后平。开头很少的代币就能换来很大的下降,往后边际变小。边际变小不等于没有边际。用量最高的 10% 公司月,代币大约是中位数的 8 倍,单位成本大约低 25%。他说,代币不再便宜的那天会来,但野外大多数公司还没靠近那条线。
同一个开发者自己比,也是这个方向。智能体用得重的周,对上他自己用得轻的周:代币大约多一倍,合并的 PR 多 27%,把工资和代币算在一起,每个 PR 便宜大约 18%。
更快,没有先表现为更碎或更多回滚
两个他经常被问的问题,他用代理指标回答,并标明限度。
质量:用回滚当代理,也就是合并之后又被后来的 PR 撤掉。最重的一档在代币增长之前起点就最低,各组的回滚率都略降,幅度刚刚低于数据里的噪声。这不是质量变好的证据。他强调的是另一面:更高代币、更快吞吐,没有出现他担心的那种大面积质量事故。
PR 是不是变小了:不是。每份 PR 的代码行数在增加。他把它说成房间里的人都见过的事:多余注释、一大片不太相关的测试,以及开发者用一两个提示把边角案例塞进同一份 PR,免得再开一张票。模型更能干,人也更敢把目标定大。他明确说,这次演讲解释不了行数上升的全部原因,只能排除“吞吐来自更小的 PR”。
预算会上带去的不该只是账单
开场那个张力,他最后收成:60 倍花费和 43% 产出不能单独裁决。花费是你买的智能,每人 PR 数是你拿到的吞吐,比例才是答案。按他的数,答案是单位成本降了 26%,而买到这件事的 AI 支出仍然是一条窄缝:平均 2.5%,重投入组也不到 10%。
他不是说可以随便烧。跑飞的任务要看,账单要跟踪,回滚和质量要放在旁边当平衡。他反对的是把 AI 账单本身当成驾驶指标。模型路由、自训、代币上限,都该先问一句:省代币,和继续把吞吐做高,哪一边更能降低单位交付成本。预算季他建议带上的是每个已合并 PR 的总成本,放在账单和吞吐旁边。账单说明花了多少。单位成本说明它有没有起作用。按这套数据,对大多数公司,眼下的结论是继续投。