只看分子就能猜中作者，模型什么时候才算懂结合？

Recursion 的屏幕上放着一个小分子。药物化学家路过，说这看着像某位同行的手笔。Ian Quigley 和联合创始人 Andrew 当时的反应是害怕：人走路经过都能认出品格，模型多半也能。几年后他们从公开库拉出 1,815 位化学家，条件是发表超过约 30 篇论文、分子数超过 600。只看分子预测作者，前五准确率到了 60%。

原始来源：From Wet Lab to RL Env: 10,000 Drug-Discovery Campaigns in a Weekend — Ian Quigley, Leash Bio。中文深度整理，非逐字翻译。本文依据 YouTube 自动生成的英文字幕，专有名词和数字可能有识别误差。

分子上留着做它的人

Ian 把这件事写成他们的 Clever Hans 文章。Clever Hans 是他记得大约十九世纪末、德国的一匹马，看起来会做算术：蹄子敲到正确答案就停。换一个自己也不知道答案的提问者，马就失败了。它看的是主人的姿态和微表情。Ian 的类比很直：模型在读“人脸”。他要它们学的那种化学，不在这个信号里。

实验是这样接上的。他们下载公开库里这些化学家的分子和活性。库名在字幕里被听成 Kemble，他解释为这类数据最大的仓库。分类器只看分子、不看作者。容易混的地方，是两位化学家发过同一篇论文、又在同一家机构。Ian 认为，个人有一套做分子的化学签名，学生会接过其中一部分。

更刺耳的一步是表示方法。他们丢掉化学结构和化学式，只留一个大约 1,800 维的向量：这个分子有多大概率出自哪一位作者。用这个向量去预测同一座库里的活性，效果和用化学式一样。把两种表示合在一起，也没有明显更好。Ian 的判断是，模型学到大量社会学，地面真相不在里面。化学家的工作是用尽可能少的系列把药做出来，没做的分子不会被写下来：太贵、砌块不在手边、觉得不会成。做成的那一批因此带着指纹。有人迷信某块在进过临床的项目里用过，就反复把它装上去。模型会把“这个人喜欢”读成“大概有效”。

主持人补了一个同行里熟悉的对照：有些公开集里，按分子量从重到轻排序，就是很强的预测。字幕里提到 CAST-16，分子量方案和第一名绑在一起，第二名也贴得很近。Ian 同意，这是“什么会被做出来、什么会被送去测”的性质。命中之后继续往上加、分子变重，于是重的分子在表里看起来更会结合。

这组数字都是他们自己的分类实验和事后解释。字幕没有给出除前五准确率以外的指标，也没有说每一篇用这座库训练的论文都因此作废。化学家姓名、库名都有听写误差。两位创始人的姓在字幕里写成 Blevens、Levens、Bleven 几种，下文只保留 Andrew。

读出要能扩展，筛选就改成对着很多蛋白

Leash Bio 是 Ian 与 Andrew 创立的机器学习小分子公司：大量收集小分子对蛋白的结合，用来推进模型，也把物质交给伙伴往患者方向推。小分子在他的定义里能放进药片、能进细胞；抗体难进细胞，也难口服。他认为蛋白类药物的预测已有进展，小分子这边同等能力还不在。脱靶里有一部分是绑到别的蛋白，所以那些蛋白也要筛。愿望是先筛完人的蛋白，再筛到人以外，物种之间蛋白略有差别。细胞层次的通透和心脏节律，比他们现在做的结合高一层。他希望懂生物物理的模型以后能在较小数据上微调。

他们用 DNA 编码库（DEL，字幕常听成 Dell），因为这是他眼里最能扩展的结合测量。一管一管试，最大的库只到数百万的低个位数。DEL 把许多分子放进同一管，各自挂 DNA 条形码，蛋白像鱼钩把结合物捞出，再读条形码。领域里已经有 40 万亿分子的库，他说那么大时会出问题。砌块常常是几千到几万。分子彼此只差一两处，便于看出哪一块在驱动结合，也被砌块清单限制住。能和机器学习配套、又真能扩展的读出，在他看来主要是拍照和 DNA 测序。测序便宜，价格轨迹决定他们敢收多少数据。

条形码很重。若要推进药物，不带 DNA 的分子得重做再测功能：他们手里容易的大约 90% 还能用，难的大约 50%。若为了训练，带着条形码的结合就是量到的信号，模型里放一个占位标明 DNA 的位置。隔很多个月重做，命中大体以同样顺序回来。

旧激励把 DEL 做成创伤：测序贵，又拿去攻别的方法失败过的难靶点，蛋白可能准备两到六个月，库被做成超大。Leash 筛非常多的蛋白。每个库对着几百个靶点筛过，同一份库做两次、行为不同，要筛几百个蛋白才看得见。团队在 Recursion 学过：模型若能猜出数据来自哪台仪器，就是在作弊。一孔一化合物的库，标签检查常常有 20% 到 30% 对不上。他认为 DEL 的错标大概相当，也许更差。蛋白粘 DNA 会造成假阳性。多条码和阴性对照的具体做法，字幕讲了，本文不复述。

可以读成：40 万亿是他转述的领域上限。Leash 后文的筛选是每次至少约 650 万个分子。

两千支队伍，最远的那一档停在随机

两年前他们办了一场 Kaggle，用来检验“计算机能否预测小分子对蛋白的结合”。公开的 BindingDB 当时不到 300 万条物理相互作用。他们放出约 40 亿条，由一个人在 Ian 家地下室测完，天花板大约七英尺。赞助方在上海，字幕写成 Shiaoji Louu、店名 Alpha Mal，库大约 1.3 亿分子。中心骨架相同，他称为三嗪，像一个毂配三根辐条。

评估被故意做成三档，且不事先宣布。容易的一档共享一块砌块。中间一档不共享砌块，但中心毂还在。最难的一档是 Leash 自己设计的另一座库：没有共同的毂，没有共同砌块，连接方式也不同，并且藏在不公开的私有评测里。大约 2,000 支队伍参赛。没有共享砌块、中心仍相同的那一档，他说视靶点而定能看到一些提升。最难的一档，没有人好过随机。优胜者字幕写成 Victor Schlapov，方法略有不同，在这一档上同样没有好过随机。前五名里有三名用的是带噪声的教程笔记本。有共享砌块那一档的原话在字幕里断掉了，没有留下可以引用的分数。

赛前他们给近期共折叠进展一个大约 5% 的概率，担心数据一公开，公司会被直接淘汰。这没有发生。他们更希望看到的是：大家本来就不强，放大数据会有帮助。分子表示上，他们鼓励有化学背景的选手去试三维图、球形卷积这一类更花的做法。结果他们自己在用的 SMILES（把分子图遍历写成文本串，不直接写入三维坐标）足够好，他们继续沿用。优势没有大到一边倒。

情绪是苦涩教训（bitter lesson，指扩大可扩展的测量往往压过精巧结构）带来的高兴：问题比想象中难，而他们又有一套别人不容易复制的测量。三个研究较充分的蛋白不够用来面对新蛋白。那座一亿级的库，也不如把一座更小的库测清楚有用。预算固定，化学物质数量和蛋白数量是两条轴：可以是三个蛋白配十亿分子，也可以是几千个蛋白配数百万分子。他见过最小的 DEL 是 5 万分子。模型显然能记住单个砌块，相似砌块的相似行为也很像记忆。离得远，当时那一档完全做不到。

外界的反应是：也许参赛的人不够好。他们因此把数据整份放出，包括二元标签和评测，放在 Recursion 运营的非营利组织 Polaris 上。到这次访谈为止，他说还没看到有人在那份难评测上做得很好。若结构模型真的懂氨基酸和小分子之间的物理，训练分布就不该这么要命。他们的内部分子，外面的人没见过。

这些是竞赛组织者的复盘。字幕没有中间档的具体提升幅度，私有榜的计量方式也没有展开成一张表。

Hermes 先去记外号，突变才把注意力摊开

Kaggle 之后的简单模型叫 Hermes。它故意做得极小，方便快速试切分，不追求当时的最优。字幕把构思归给一位数据科学家（人名听写不清）、Sean（听成 Sean Francis Line）和 CTO Andrew。蛋白一侧用进化尺度模型 ESM 的嵌入，化学一侧用一个预测 SMILES 词元的嵌入，字幕称 Kvera。两边用交叉注意力接起来，预测一个二元标签。注意力来自他们以前的图模型：位置坐标打乱，成绩几乎不变。这像图像里的毕加索问题，抓住局部碎片，不理解整体。DEL 又是砌块拼出来的，模型很容易把三块的贡献加总。交叉注意力被当成归纳偏置，让分子局部有机会去对蛋白残基。

切分沿用组合库。共享砌块越多，成绩越好，他们怀疑是记忆。按相似度把砌块聚类，训练和测试不共享整簇，成绩就掉。对照是 XGBoost（一种梯度提升树，常被拿来当强基线）。共享两块、一块、零块，再到整簇留出，XGBoost 稳步变差。Hermes 在这些档上相当平稳。Ian 说这写在发表过的几张图里，他们没有大声宣传。

下一步是只用内部数据训练，再到外部数据上预测。他说没见过别的组对这个任务只练内部数据。Hermes 论文里的测试，他记得大约 1,300 万次、大约 500 个蛋白靶点，口吻是“我想是”。和当时结构模型里领先的 Boltz 比，结合这个问题上大致相当。有的蛋白家族他们更好，有的更差，他怀疑是训练分布，也包括记忆。Boltz 练过哪些子集，他们当时并不完全清楚。蛋白 BRD4 上有一个分子，他们的远库和蛋白质数据库 PDB 里相同，Boltz 几乎肯定见过那套晶体。Hermes 表现差，Boltz 完美。Ian 的解释是对方见过。

他们想教的是活性悬崖：两样东西几乎一样，只改一点点，行为却差很多。药物化学家口中的“神奇甲基”被他称为传说：一个小刺在或不在，效果可以完全不同。砌块若忽略氢，大约六个到三十个原子，其中也可以只差一个原子。蛋白一侧同样制造落差。现有共折叠模型在他看到的情形里，口袋被数字方式拆掉之后，仍会把小分子塞回原处。他的假说是模型记得位置。负例来自三步比较：基线下谁被富集，已知配体占住口袋后谁消失，结合区域改掉之后谁还在。被赶走的系列在改过的蛋白上也消失，绑在别处的系列还在。大的星期，一周大约筛 100 个蛋白构建，这类筛查有几百次。同一种细小变化在一大群分子上一起移动时，他们才愿意把某一小块和某个残基连上。

Hermes 的注意力图起初不符合期待。他们以为它会看口袋，退一步也该看很多残基。实际看到的是远离功能区、也远离保守结构域的短氨基酸串，大约十到十二个，像给蛋白起的外号。加入这些差异再训练之后，注意力摊得更均匀。Ian 说，这是让“靠外号记住”不再好用。

怎样选位点、怎样做竞争和突变，字幕讲了实验操作，本文不复述。1,300 万和 500 个靶点是回忆式口径。图在节目里被翻出来讲，自动字幕没有逐点读数。

一万次战役跑在已经测过的库里

最近他们改用语言模型，字幕里的名字听成 quins 和 GLM。小分子、蛋白和行为被写成可读的英语：描述结构，写出两个分子的差异，说明结合物为什么结合，也给难的负例。然后给 10 个结合物和 10 个很近的非结合物，让它说出理由，再从几百万分子的目录里挑 5 个或 10 个去检验。答案从已经收好的数据里立刻返回，像代码沙箱。目标是用尽可能少的步数找到最好的结合物。

Ian 把这称为强化学习（reinforcement learning，用试错和反馈更新策略）的展开。活性悬崖在他看来是因果的：加上某一块，行为以可重复的方式改变，轨迹可以变成推理痕迹。后来的设定是 10 个结合物、100 个分子的预算，在 650 万个分子里把最好的结合物找出来。他说看起来有效。字幕里有一句调用次数听写损坏，本文不引用。

相对 Hermes，他认为这条路更抗记忆。参数一多，突变本身也会被记住。自然语言像一种正则。他不知道别的物理上站得住、又这么能扩展、这么快的强化学习环。真的让机器人在湿实验室（动手做实验的实验室）里闭环，资源有限，仍要先决定做什么，每一圈也更慢。反馈里必须包括人不会去做的选择，错误要在数据里，而且不能再偏回化学家的指纹。主持人认为推理也许比预训练里的化学直觉更重要。Ian 说他们兴奋的是早期信号。

药物化学里，改分子、看行为，会走完一轮早期战役。一个人职业生涯里也许见到几十轮，也许 50 轮。他说上一个周末他们拉出超过 10,000 轮，还没有特别用力。眼下只能在筛过的空间里走。结束时可以让模型从商品目录里再挑，将来再订购、再测。公司大约 10 个人。他期待语料以现在的 2 倍、10 倍、100 倍增长。砌块买不买得到、库的几何，都会卡住覆盖面。一座库可以对一类靶点很好、对另一类很差。连接化学的做法本文不写。

少数系列从库内命中走到小鼠里看起来不错的 PKPD（药代动力学和药效动力学：药物在体内如何走，预期活性有没有标志），用了 6 个月，药物化学循环很少。那是炎症方向，他们看血液里的细胞因子是否按靶点预期变化。宣布开发候选之后还有生产和更多安全性工作，才能进入人体。选择性起点他记得大约 700 个靶点。主持人说，一个成功药物总成本低侧大约 2 亿美元、高侧大约 10 亿美元，发现阶段大约几百万。Ian 认为有些早期问题本身就值这些钱，例如有遗传学证据、小分子却很难做、抗体又要输注和冷链的靶点。兴趣够高，送上市仍要更多资本。他做不了一百万只小鼠的实验，也做不了许多期临床试验。

主持人把生意称作 Kasari 悖论，字幕里的名字是 Shri Kasari：数据若已经收得这么好，还要模型干什么？Ian 说，若唯一目标是某一个靶点的化学物质，质疑成立。他们要更广的化学理解，让早期优化更快，而且融资并不高。化学推理若成立，农业、兽医、材料可以不必把那些蛋白全部筛一遍。“筛完这一个靶点就有了物质”和“泛化到不必再筛”是两句不同的话。后者要活性悬崖给够。

规模大约是 2,000 种蛋白构建、5,000 次筛选，每次至少约 650 万分子。几乎不输给别人，突变数量他觉得可能更多，这是口头判断。交给合同研究机构一次做一个，大概每个 10 万美元。相对有人讲的 10 的 40 次方，主持人认为 650 万并不大。Ian 说，只练内部数据的模型已经能推广到公开库里很不一样的角落；够不够？远远不够。

重复筛选能把命中以大致相同的顺序收回来，相对排序他比较乐观。表面等离子体共振等测量想用来搭效力阶梯。换成解离常数，他明确说还不擅长。有些蛋白会粘条形码，干扰效力。

资金更足的实验室为什么不能直接把引擎做大？Ian 的答案是作弊模式太多：批次、元数据、让人愿意记录的工具，以及把创立以来的数据核对一致。选择流程和蛋白表达他们都重做过。有一类分子会在蛋白状态不好时反复出现，被当成丢掉坏批次的过滤器。怎样识别，字幕讲了操作，本文不复述。只想要一两个苗头，就不会把测定的每一面追完。

测序降价他已经满意。主持人说第一个基因组大约十亿美元，现在大约一千美元，随即改口也许是一百。还想要的，是把分子大规模清理干净再做正交验证。现有手段不够并行，仪器不写。公司在招机器学习的人，也想和伙伴谈。周末那一万次说明选择可以在已有测量里快速滚完。新的化学角落、干净的第二套测定、解离常数，他自己都放在还没做到的一边。