人得一直握着未来｜Stanford GSB × Sam Altman

Sam Altman 是 OpenAI 的联合创始人和 CEO。这期是斯坦福商学院的 View from the Top，大约 49 分钟。字幕把姓听成 Alman，把第一家公司听成 Looped。下文按节目标题的拼写。主持人说准备时和一个人工智能版本的他聊过，那个版本字幕听成由 Codeex 做成。客套到此。

他要讲的最难的决定，名字有好几个：pausing，pacing，intelligence speed limits。暂停，配速，智能的速度上限。底子是两句他非常相信的话。人应当始终控制未来。不该有意把不可逆的决策权交给人工智能，也不该意外丢掉控制。权力在未来要相当分散。不想看见权力太集中，无论集中在一个被他说成智商 100 亿的人工智能里，还是集中在一小群拥有人工智能、其他人没有的人手里。

过去十天，他用数学界当过一块能看见的样本。第 0 天的反应是这是假的。第 1 天是我们完了，这个领域结束了，他们在告诉研究生换专业。判断过了几天又改。这是任务层的大换，他不把它说成工作末日。

原始来源：Sam Altman, Co-Founder and CEO of OpenAI: Staying Human While Scaling Superintelligence。中文深度整理，非逐字翻译。本文依据 YouTube 自动生成的英文字幕，专有名词和数字可能有识别误差。他说的「过去六个月」「过去十天」是相对这场谈话，本文不另核录制日。

研究做出来还不够，得做成电那样的东西

2015 年创办 OpenAI 时，多数人告诉他，通用人工智能在可预见的未来不可能。他们看见的是深度学习在工作。他学生时代在斯坦福的人工智能实验室，打算以此为职业。2005 年，一位斯坦福计算机教授对他说：关于人工智能，很多事大概至少还要一个世纪；唯一能确定的是，深度学习不会工作。2012 年有了 AlexNet。到 2014 年，深度学习看起来在各种方式上随规模变好。世界不接受。他说当时的激进观点是：这到不了任何认真的智能水平，这很荒唐。现在反过来了。还有少数人在网上把全部时间用来讲深度学习不会工作、是 parlor trick。到了今天，那才是激进观点。

若他的职业生涯有一条中心洞察，就是规模有出人意料的效应。看见一条漂亮地缩放的指数，就该继续。人的直觉不擅长这个。单个公司的规模回报、像 Y Combinator 这样的网络、神经网络，他都这么看。当时他们还不知道它会多么可预期地随规模变好。那是几年后的事。也许会在某处断掉。有几次他们几乎失去信念，觉得撞上了墙。还是继续。他说，当时不在 OpenAI 墙里的人几乎不信。这不是字面上没有任何人信，确实有人信。这是非常不受欢迎的意见。

它起步时是非营利的研究实验室，没打算做成产品公司。主持人问领导力怎么变的时候说，今天每周有超过十亿人使用 ChatGPT。这是问题里的数字。他没有在这期里核对。字幕把 ChatGPT 听成 chat GPT、Chad GBT、CHBT。下文按 ChatGPT。

2010 年代中期，硅谷迷恋研究实验室。人人说硅谷把研究丢了，要回到字幕里的 Xerox Park，或贝尔实验室。他一直觉得研究好，一直想管一个实验室，也一直对人工智能有兴趣。这本来该是退休项目。头大约五年，他说是他能想象的最酷的工作。一小群人，一个实验室。很多判断是对的。错在人工智能做出来之后会怎么走。他们没想到，最可能的路是必须建一家产品公司。他们大多以为会做出难以置信的超级智能。他知道这现在听着荒唐。然后不必做那件难的：怎么把它有用地交到人手里，让社会受益。创业老梗是做完前两步，后面一串问号，然后利润。他们的版本是：做研究，造超级智能，一串问号，人们受益并且开心。

技术走了另一条。他说这条好得多。于是必须产品化。也因此，它更像他们当时想象之外的普通经济力量。像电，或晶体管，或另一项让许多公司、技术和科学发现得以发生的发现。要交到人手里的基础设施有两截。一截是像 ChatGPT 这样的产品。一截是算力，量大到他说超过人类历史上任何项目。到 2020 年末、2021 年初，他清楚必须建一家大公司。没想到会这么快。ChatGPT 发布，他说大约四年前。一夜之间，所有人都知道这会很快成为一家大公司。

人要控制未来，所以才有速度这道题

两句都信，就会碰到很难的问题。一个系统可以比最聪明的人聪明多少，可以多快。人这边，要被增强到多能理解这些系统。他说这解得开，只是要时间。世界能凑到一起、同意那些限度是什么、怎么执行，方式数量有限。两边意见都极强。说任何监管都坏，他认为错。说必须立刻绝对停掉全部进展，他认为绝对错。在社会赌注最高的辩论里做务实的中间派，是很难待的位置。

过去六个月能力在加速。最早的若干信条他还在。迭代部署。社会得在技术被做出来的同时跟它打交道，尽管难，尽管变化快得惊人。人极其有韧性，能适应。说实话，人不太在乎机器的工作，人盯着的是人。未来的技术图景会很不一样。社会的形状会比人们想的更接近今天。

他说，过去六个月的速度考验了其中一些信念有多牢。在某些窄的意义上，就他而言，数学推理上现在已经有超级智能。他没想到会这么快。若再按类似速度走一两年，而公司、政府和社会在对齐上对眼下的做法不做任何改变，他认为这个速度会出现。那样的话，什么都不改就行不通。系统变得这么能干，这么快。要保住前面那两件，就得改变从这里开始怎么想进度。

OpenAI 内部，看见并感觉到模型变得多好的人越多，辩论的散度越小。更多人会说，得想未来的策略，以及要做出想要的安全保证，做法得和过去有些不同。他意识到，内部很多意见差，以及社会上的意见差，有一截是在争模型会变得多好、多快。这截被重新框成了策略之争。一旦有了答案，模型即将变得非凡，「我们该拿它怎么办」的空间就变小。还有一些空间。

他在联合国谈过人工智能安全，强调政府在监管里的分量。政策和技术变化的节奏不同。他说对眼下的趋势相当满意。不久以前，他不认为大多数政府里的大多数人足够认真。过去几个月变了。对话在发生。能不能真的发生什么，还要看。他以前不认为有任何好的东西走在可能发生的轨迹上。现在他认为大概是。

组织和个人今天能做的，他不列三十条，只讲网络安全。他说自己都不知道用什么足够重的词。朝我们来的这个问题，组织领导者、国家、个人都还没认真到该有的程度。今年早些时候有过一阵，人们叫它字幕听成 mythos freak out。事情好了一些。人们确实补了一些洞。又是没有直觉到指数的情况。模型能找出一批安全漏洞，于是觉得那大概就是全部现有漏洞，或模型永远能找到的全部。多数人没有接着说：模型会聪明得多，能找出正常威胁模型之外的洞，包括他所说的硬件层面那种离谱的东西。安全专业人士仍在慌，首席信息安全官仍在慌。大体上，多数组织领导者有点往前走了，模型还在继续。他不再认为能把洞全部补上。得把防御模型整个换掉，用同一类技术做一种新的防御盾。他认为这是很大的安全和保安问题。相对而言受到的注意，少到让他吃惊。

数学界几天走完一轮，这不是工作末日

给在座商学院学生的建议，他先给一句判断。不会像人们想的那样，那么快地变得完全不同。今天由人做的极大量任务，会被人工智能做得更好、更便宜、更快、做法完全不同。这是真的。今天大片工作，至少按今天的做法，会整个由人工智能来做。这也是真的。

过去十天数学共同体的反应，是他见过一个领域走完这个循环最快的一次。第 0 天：这是假的。第 1 天：我们完了，领域结束了，告诉研究生换专业。第 3 天大概是：它在字幕听成 opening 上糟透了；如果这是理解更多数学的代价，我们不要。本文不把 opening 改成一个定理或竞赛的名字。大概到第 5 天，转了很多。他开始听见数学家说：有一种数学工作结束了。他们大多数人做的不是解千禧年大奖问题，大多数人从来没做过。大多数工作是把知识弄懂，怎么传达，怎么呈成让人能懂的样子。不少人接着说，自己会有一种不同的、希望更好的数学家生涯。人工智能会在相当程度上从这里驱动数学发现。决定做什么、它意味着什么、怎么呈现、怎么解释、怎么写一个好的证明，以及这些之外的事，会有一整套新的。别的领域更慢，版本类似。

程序员过去两年，从「我们的工作结束了」，走到看起来会继续给能让计算机把事情做成的人付越来越高的薪水。每天的活会不一样。咨询曾经有一阵觉得完全结束了。然后发现，不管模型做看起来不错的幻灯片有多好，它们确实好，人真的想和另一个人打交道。几乎没有人想要人工智能顾问出现，来告诉自己该做什么。他说这会继续发生。

他不认为会有许多人说的那种工作末日。短期内，人做的任务，以及某些种类的工作，会有巨大的更换。若你现在正要进去做事，你想在变化程度最高的时候开始，你想要最开放的场地。有潜力、有驱力、有想法、有新看法和新技能的人，在地面摇得最厉害的时候相对做得最好。他对 MBA 学生长期的失望是，他们总想去做五年前很酷的那件事。现在是去做新的时候。追问：即使人工智能就是现在很酷的事呢。他说，这不是一个再复制一家 OpenAI 的好时候。有很多公司可以建在 OpenAI 已经放进世界的技术上面。他希望它们比 OpenAI 更大、更重要。

还该自己学的，是帮你思考的那一类

即使人工智能能做，人还该为自己学什么。他用两个老师。二年级老师绝对相信他必须学草书。他觉得自己是还被要求学草书的最后一代。他确定自己再也不会用，签名都不用草书，现在大概也写不出。如果是因为字难看、要练精细动作，他能信。如果是为了草书本身，为了当一个能运转的社会成员必须会，他不信。老师说，你以后需要这个。

几年后另一个老师说必须学写作。他不想当作家。老师说那没关系，写作主要是学习怎么思考的工具。他说自己要当数学家。老师说，你仍然得学怎么思考，怎么把想法搭起来。即使长大后从不为了给别人读而写，学会思考仍是重要技能。

他的收获是两边都有。仍然去学帮助你思考的技能，极其有价值。去学明显将属于机器、而且人不看重的技能，明显没有价值。方向上，多数人会同意该学这些一般的东西。然后还有一问：一般技能练了，未来还留在人这边的是什么。

第一件他认为显然，但值得说。人的价值因为是人的，就有内在价值。我们似乎真的不在乎机器为了它们自己的目的做什么。他认为这很好。不管人工智能变得多好，这会继续。科学史在某种意义上，是对人类那种主角感的一连串失望。曾经以为太阳绕着地球转。然后是整个太阳系，整个星系，一直到多重宇宙。你得眯着眼，才说得清人为什么是中心。我们仍然觉得自己处于要紧之事的中心，也当然是自己故事的中心。他认为这很好，会继续。只要安全做对，只要不发生那种失控，人的价值对我们都会要紧，因为背后有一个人。工作会要紧，因为是一个人在做。弄清怎么对别人有用、怎么做出对别人居于中心的东西，会一直继续。学会做这个，是出人意料地可学的。

若分配和发展做对了，人们仍大幅低估我们去解决的，是什么叫过上很好的一生。让每个人有选择、自由、弹性，仍然会犯错，回头放大看会说自己过得很好。他认为这仍然会难，某种意义上会一直难。也许难是重要的。他希望接下来几年更多推向一种新文艺复兴，而不是一场新工业革命。人工智能里很多能量走向后者：把一切自动化，把人从方程里拿掉，让经济跑得更快更好，给每个人一些钱，由人工智能决定什么重要，人变成机器里转得更顺的齿轮。字幕把那台机器听成 Mollik。本文不补成另一个词。他说希望我们把那一个做对。

他认为人要的是文艺复兴那一版：创造力，探索，发现知识，一片开阔的新自由。社会和经济发展的压力，被放在无情的效率上。大概得有一种反着来的力，来自公司、政府，或作为整体的人。

提问者说他 30 岁写过一份很长的生活清单，标题是 the days are long but the decades are short，并说他现在 41 岁、当了父亲。年龄和身份是提问里的话。他记得自己写过，不全记得内容。若现在写一个很短的版本：有一个家，做一件对你重要的事，花时间做你觉得充实的事，保持健康。另一问是随身笔记本。字幕把那期播客的主持人听成 David Peril。他说笔记本这件事他大概就是错的，也许该换成电脑，只是老习惯。要紧的是那些做了很久的事：花很多时间和别人在一起，一起吃饭，常到大自然里，锻炼。

封闭模型用来换时间，组织还没按这个重想

观众 David Lee 自报是 2027 级 MBA，来自湾区。他说 OpenAI 在 2024 和 2025 重金投入算力，并认为这笔投入正以字幕听成 Astra、以及 ChatGPT 的速度得到回报。Astra 是提问里的词。Altman 没有把它认成产品名。

他押的下一截是机器人。人们大量谈模型的递归自我改进。还有另一圈。机器人能造更多机器人，数据中心能有效地造更多数据中心，包括运转芯片厂，可以一路把算力做多，直到造更多发电厂。他认为这和人工智能研究里那种潜在的递归圈一样大，或几乎一样大，谈得少得多。其二，他们做了自己的芯片，字幕听成 Jalapeno，后面还有一颗。从每瓦智能看，相对市场上别的，他说是巨大的赢。模型更聪明之后，能帮忙设计更聪明的芯片。这是另一种圈。整条供应链他也在投：晶圆厂、电力、设备和数据中心。这大概是三个大的区域。

观众自报 Jerko，2028 级，来自秘鲁。问他在 2020 年末关于人工智能会怎么展开的一个强烈信念，后来错了什么。他说自己没想到能做出在某些重要方式上超人的模型。更好的说法是：他以为对齐问题会更难。从现在起它仍可能变得非常难。他怀疑它会难得多。他也认为从这里往哪走，对齐极其重要。我们已经得到在某些重要方式上超人、而且非常超人的模型，对齐到目前比预期容易。这两句里，他会以很高的确定度说其中一句是错的。现在担心的是，有人看着已经到的地方，说下一个也会继续这样，对齐会保持容易。对他一点也不显然。对齐若错，潜在代价已经大幅上升。有一阵可以把这些系统放进沙箱，并基于沙箱做出一些安全保证。等这失败，因为模型聪明到我们甚至不太懂沙箱还意味着什么，然后会有字幕听成 moniability 的东西能工作一阵。本文不改成另一个安全术语。最终，也是他谈速度上限的原因：除了对齐，他认为没有别的真能工作。那种我们能理解、并且能有信心说可以跑这个模型、人会保持对未来的控制的对齐。他担心世界上有些努力，鉴于到目前这么容易，对对齐自信到太愿意往前冲。

观众自报的名字字幕听成 Josh Island，MBA 2027。他说 Altman 最近在 Decoded 播客上讲，世界应该接受一些坏事，以换人工智能的好处。问线画在哪。Altman 说希望自己当时换一种说法。他脑子里觉得意思显然、没有争议。开源模型会输出仇恨言论，在论坛上捣乱，攻进一些系统，替用户做某些诈骗。会有新一代电话诈骗，比上一代糟。有人会因此要禁掉全部开源模型。他想说、并认为被剪掉的一点是：全部禁掉，对创新和自由的代价极高，不该这么做。若让人在自己的计算机上本地跑，不管全球的智能体监控有多好，都会有一些你希望没人做过的事。他不接受完全没有开源模型这笔交换。存在一个阈值，社会需要辩论：伤害大到一定程度，就不给人随便用的自由。明显的例子是，不该有人能把互联网弄瘫，不该有人能对另一个人造成身体伤害，不该有人能做出一种新的生物恐怖攻击放到世界上。如果你告诉人接受任何数量的坏事，对方会说自己完全不想要任何坏事，然后丢掉那层差别：自由也重要，要紧的是线画在哪。可以拿走全部电话来消灭电话诈骗，我们决定这不值得。他不认为社会该冒大风险。人工智能和此前的技术不同，是一个人能造成的伤害量上新的一步。会有一串不舒服的后果，关于社会必须怎么适应，以及有些自由确实得放弃。这不等于不该在自己的计算机上跑神经网络。

开放权重和封闭权重，问的人自报叫 Adam，也是 OpenAI Foundation 的幕僚长。Altman 说开放权重对社会很重要，直到某个相当高的能力。社会会为它的好处接受多少损害，未来几年会辩得很重。这也是移动靶。韧性建得越多，比如他希望基金会做很多工作帮助防范未来的大流行，世界也许就可以拥有更能干的生物模型，因为比今天更能响应。他不认为能负责任地在任何近期，把当前最好的内部模型开源。要发生的事包括：互联网的整个防御模型得改变，生物这一层得建起来，还有一长串。这题活着，是因为封闭模型领先一个愿意把同等水平开源出来的人多少。他说，不是超级远。封闭权重这种滚动着的优势，用来帮世界建韧性，防御那些他认为世界理应拥有的开放模型。他事先不知道 Adam 在基金会工作。他说现在有世界上最大的基金会，一部分意义是可以冲刺着建这面防御盾。「最大」是他的说法。

软件这边，一位自报做开发的 2028 级学生问，模型把软件的护城河吞掉之后，还建什么。他的第一近似是：历史上，软件本身的护城河并没有那么多。网络效应像 Facebook，规模效应像 Google，数据上的护城河像很多企业软件有的。软件本身从来不是特别强的护城河。你用它取得暂时优势，去建起一种传统的业务护城河。他认为会照这样继续。

收在组织上。未来的领导者该聚焦什么，他的答案是人工智能。他挑改变组织来说。有了大量人工智能之后，相对于其中的每一个人，有可能设计一种不同的组织。他认为这研究得不够：今天把最好的组织搭起来意味着什么。后面他标明是推测，自己没研究过是否为真。他的感觉是，大多数组织的设计来自抄军队，用层级化的指挥控制越过某个规模。那是当时能做到这件事的例子。科技业和其他行业后来做过改进，灵感仍是同一条。看这些系统时，他举的例子是字幕听成 10,000 to 10,000 个智能体一起解 Navier-Stokes。本文不把这个数量改成另一个数。它们一起工作的方式，不像他能想象的任何组织。没有领导，没有争功劳，没有争执，都在解这个目标。人有他称为美丽的缺陷，意味着我们永远不会那样。他也不想要那种没有情绪的世界。仍有可以学的。在 OpenAI 内部，真正拥抱人工智能、并且小得多的团队，改变了工作方式。他说在座的人会去弄清怎么设计新组织。