必一运动·(B-sports)官方网站

以(yi)下为对谈全文，由(you)AI翻译整理：

主持人：Sam Altman，欢迎来到Stratechery。

SA：谢谢邀(yao)请我。

主持人：你之前来过(guo)一次，那次是(shi)和Kevin Scott一起接受采访(fang)，而且我认为你当时是(shi)在车里。

SA：是(shi)的，没错。

主持人：是(shi)的，我没有机会问(wen)我通常(chang)会问(wen)第一次接受采访(fang)的人的问(wen)题，也就是(shi)背景。你是(shi)在哪里长大(da)的？你又是(shi)怎么开始(shi)接触科技的？给我讲讲Sam Altman的发家史。

SA：我在圣(sheng)路(lu)易(yi)斯长大(da)。我出生在芝加(jia)哥，但我确实是(shi)在圣(sheng)路(lu)易(yi)斯长大(da)的。我住在郊区，那是(shi)一个安静而美丽的地方(fang)，有古老的林荫(yin)街道。我还是(shi)个电脑迷。我小学里有一些电脑，我认为它们(men)很棒，我会花尽可能多的时间来操作它们(men)。

那是(shi)在计算的辉煌时期，你可以(yi)马上在电脑上做(zuo)任(ren)何你想做(zuo)的事情，而且很容易(yi)学会编程，这简(jian)直是(shi)疯狂的有趣(qu)和令人兴(xing)奋(fen)。后来，我的父母给我买了一台电脑，或者说(shuo)给大家(men)买了一台电脑，我一直是(shi)个疯狂的极客，彻头彻尾的那种，喜欢科学、数学、电脑和科幻小说(shuo)等等。

主持人：嗯，在很短的时间里，你就去了斯坦福，19岁的时候创办了Loopt，七年后被收购。我认为这样描述是(shi)公平的，这是(shi)一个失败的初创企业(si)——七年已(yi)经算不错了，但那是(shi)一次收购。这怎么会让你在Y Combinator工作，最终很快就执掌了这家企业(si)？

SA：大家(men)是(shi)最早一批获得Y Combinator资助的企业(si)之一，我既(ji)感激不尽，又认为这是(shi)最酷的事情，这是(shi)一个很棒的社(she)区，我仍然认为 YC 对科技行业的影响被低估(gu)了，即使(shi)人们(men)认为它已(yi)经产生了巨大(da)的影响。所以(yi)这对我和这个行业来说(shuo)都(dou)是(shi)一件非常(chang)重要的事情，我想提供(gong)帮助。所以(yi)在创办这家初创企业(si)的时候，我经常(chang)在YC附近转悠。

主持人：从某(mou)种程度上来说(shuo)，这实际上是(shi)为在 YC 工作准备了七年。你可能当时没有意识(shi)到这一点。

SA：在某(mou)种程度上是(shi)这样。虽然不是(shi)有意为之，但我很多朋友都(dou)在YC，大家(men)的办公室离YC办公室很近，所以(yi)我经常(chang)去那里，我会花很多时间跟PG [Paul Graham] 和 Jessica [Livingston] 聊天，后来大家(men)的企业(si)被收购了，PG说(shuo)，也许你应该来YC看(kan)看(kan)。

我最初真(zhen)的不想那样做(zuo)，因为我不想成为一个投资者——我显然对这家初创企业(si)的发展不满意，我想创办一家好企业(si)，我不认为自(zi)己(ji)是(shi)一个投资者，我为自(zi)己(ji)不是(shi)一个投资者而感到自(zi)豪。我做(zuo)过(guo)一点点投资，在我看(kan)来这不像我想要关注的重点，我很高兴(xing)把它当成兼职(zhi)来做(zuo)。这有点意思，但我不想说(shuo)我不尊(zun)重投资者，但我不尊(zun)重我自(zi)己(ji)作为投资者的身份。

主持人：是(shi)否存在这样的情况，PG既(ji)是(shi)投资者又是(shi)创始(shi)人，因为他创立了YC，而且通过(guo)接管YC，这是(shi)一个非常(chang)酷的职(zhi)位，但你也不是(shi)创始(shi)人？

SA：我真(zhen)的不在乎是(shi)否是(shi)创始(shi)人，我只想找一份运营方(fang)面的工作，他最终对我说(shuo)的话很有说(shuo)服力，或者说(shuo)结果证明很有说(shuo)服力，他说(shuo)，“如果你管理YC，这比当投资者更像是(shi)在运营一家企业(si)”，事实证明确实如此。

主持人：我稍后会再谈到这一点，但我确实想再展开讲讲。我想你在2014年开始(shi)管理 YC，大(da)约在那个时候或2015 年，你和Elon Musk在罗斯伍德酒店共(gong)进晚餐，谈论人工智能。是(shi)什么促成了那次晚餐？当时是(shi)什么情况？这只是(shi)一个提议还是(shi)有预谋的？

SA：是(shi)人工智能刚刚出现那会儿吗？

主持人：是(shi)的，那次晚餐是(shi)，“大家(men)来聊聊人工智能吧(ba)”？

SA：是(shi)的，那确实是(shi)一次关于人工智能的晚餐。我想，出于某(mou)种原因，那次晚餐，那一个特定的时刻被永(yong)远神(shen)化了，但那一年有很多晚餐，尤其是(shi)在那个夏天，包(bao)括(kuo)很多次和Elon的晚餐。但那是(shi)一次有很多人的聚会，出于某(mou)种原因，这个故事被广泛传播。但是(shi)，是(shi)的，那次晚餐的主要目的是(shi)讨论人工智能。

主持人：在OpenAI成立后的这些年里，人们(men)给它附加(jia)了很多动(dong)机，比如安全、人类的福祉、非营利、开放(fang)性等等。显然，OpenAI 在某(mou)些问(wen)题上的立场已(yi)经发生了变化。但是(shi)，当我回顾这段历史时，实际上我认为这在这次谈话的最初几分钟就得到了加(jia)强(qiang)，我看(kan)到一个雄(xiong)心勃(bo)勃(bo)的年轻人，他把自(zi)己(ji)放(fang)在一个可以(yi)创造变革性技术的位置上，即使(shi)为此付出了在硅谷拥有最令人羡慕的席位的代价。

我的意思是(shi)，这仅仅是(shi)你接管Y Combinator后的一年。从个人层面来说(shuo)，你创办OpenAI的动(dong)机是(shi)什么？Sam Altman 的理由(you)。

SA：在那之前，我相信(xin)，我当时相信(xin)，现在也相信(xin)，如果大家(men)能弄清楚如何构建 AGI，以(yi)及如何让它成为世界上最纯净美好的力量，这将是(shi)任(ren)何人都(dou)能做(zuo)的最令人兴(xing)奋(fen)、最有趣(qu)、最有影响力和最积极的事情之一。

主持人：满足所有那些尚未满足的需求(qiu)。

SA：是(shi)的。但就像，我不知道。它比我所希翼(wang)的更好，但它一直是(shi)研究过(guo)的最有趣(qu)、最令人惊叹、最酷的事情。

主持人：你是(shi)否立即感受到了这种紧张感，“哦，我只是(shi)把它当成一个副(fu)业？”在什么时候它变成了主要的事情，而YC变成了副(fu)业？

SA：我想用YC做(zuo)的事情之一是(shi)，YC在当时是(shi)如此强(qiang)大(da)，大家(men)可以(yi)用它来推动(dong)更多的人去做(zuo)硬科技企业(si)，大家(men)可以(yi)用它来促成更多的研究发生，我一直对这个很感兴(xing)趣(qu)。这是(shi)我 YC尝试做(zuo)的第一件大(da)事，也就是(shi)，“大家(men)要开始(shi)资助传统的硬科技企业(si)，大家(men)也要尝试帮助启动(dong)其他硬科技项目”，所以(yi)大家(men)开始(shi)资助超音速飞机、聚变和裂变、合成生物(wu)企业(si)等等，我真(zhen)的想找到一些AGI项目来资助。

当时实际上只有一两个项目，大家(men)确实和他们(men)谈过(guo)，然后就有了DeepMind这个大(da)项目。我一直对人工智能很感兴(xing)趣(qu)，我在本(ben)科时就在人工智能实验室工作，当时什么也做(zuo)不出来，但我一直认为这是(shi)最酷的事情，显然 OpenAI 的结构和计划有好有坏，但大家(men)的总体使(shi)命是(shi)，大家(men)希翼(wang)构建有益的、广泛分布的AGI，这始(shi)终如一，我仍然认为这是(shi)一个非常(chang)重要的使(shi)命。

所以(yi)这似乎 YC应该支撑的事情，大家(men)一直在考虑资助更多的研究项目。我认为已(yi)经被历史的尘埃掩埋的一件事是(shi)，当大家(men)创办OpenAI 时，它是(shi)一个研究实验室，没有任(ren)何想法，甚至没有任(ren)何想法的雏形。

主持人：变形金刚甚至还没有出现。

SA：它们(men)甚至不存在。大家(men)当时正在制作像 RL [强(qiang)化学习] 代理来玩电子(zi)游戏之类的东(dong)西。

主持人：对，我正要提到电子(zi)游戏这个点。没错，那就像你的第一个版本(ben)。

SA：所以(yi)大家(men)没有任(ren)何业务模式或业务模式的想法，事实上，在那时，大家(men)甚至没有真(zhen)正意识(shi)到计算机会变得多么昂贵，所以(yi)大家(men)认为也许大家(men)可以(yi)成为一个研究实验室。但是(shi)，在那些早期的岁月里，大家(men)就像一个迷失在荒野中，试图弄清楚该做(zuo)什么的学术研究实验室，然后只是(shi)解决摆在大家(men)面前的每(mei)一个问(wen)题，不仅是(shi)研究问(wen)题，还有“大家(men)的结构应该是(shi)什么？”、“大家(men)怎么赚钱(qian)？”、“大家(men)需要多少钱(qian)？”、“大家(men)怎么建立算力？”，大家(men)不得不做(zuo)很多事情。

主持人：这感觉就像你从大(da)学辍学去创办Loopt，然后你说(shuo)，“你知道吗？大(da)学的聚会体验非常(chang)好，所以(yi)我要去 YC 混混”，然后感 OpenAI 就像，“你知道吗，只是(shi)做(zuo)学术研究和发现很酷的事情也很好”，这就像你自(zi)己(ji)重建了大(da)学，因为你错过(guo)了。

SA：我想我偶然发现了更好的东(dong)西。我当时确实喜欢大(da)学，我不是(shi)那种超级(ji)反大(da)学的人，也许我现在已(yi)经在这个方(fang)向(xiang)上变得更加(jia)激进，但我也认为20年前会更好。但更像是(shi)，“哦，哇，YC 社(she)区一直是(shi)我想象中的完美的学术社(she)区”，所以(yi)至少我觉得我没有试图重建什么。更像是(shi)，“哦，我找到了这个更好的东(dong)西”。

总之，对于 OpenAI，我逐渐越来越投入，它最初只是(shi)YC的六个研究项目之一，也是(shi)我花时间关注的数百家企业(si)之一，然后它就这样发展起来了，我开始(shi)痴迷。

主持人：从很多方(fang)面来说(shuo)，你的时间线预测了整个实体的时间线。

SA：是(shi)的。

主持人：也许对OpenAI来说(shuo)最重要的一年——嗯，我的意思是(shi)这里会有很多重要的一年——但从商业策略(lue)极客的角度来看(kan)，也就是(shi)我在互联网上的领域——是(shi)2019年，我认为。

2019年，你发布了 GPT-2。你没有马上开源该模型，你创建了一个营利性结构，从MicroSoft那里融资。从某(mou)种意义上说(shuo)，这两者都(dou)违反了最初的OpenAI 愿(yuan)景，但我认为，因为我正在和你交谈，而不是(shi)像整个 OpenAI，看(kan)不出这些与你的愿(yuan)景有任(ren)何不兼容之处，它们(men)只是(shi)实现这个了不起的事情所需要做(zuo)的事情。这种说(shuo)法公平吗？

SA：首先，我认为它们(men)非常(chang)不同。就像GPT-2的发布，有一些人只是(shi)非常(chang)担心，你知道，也许这个模型是(shi)完全安全的，但大家(men)不知道大家(men)想获得——大家(men)确实拥有这个新的、强(qiang)大(da)的东(dong)西，大家(men)希翼(wang)社(she)会与大家(men)一起发展。

现在回想起来，我完全悔恨大家(men)使(shi)用的一些语言，我理解为什么人们(men)会说(shuo)，“啊，这就像炒作和危言耸听等等”，这真(zhen)的不是(shi)本(ben)意。做(zuo)出这些决定的人，我认为他们(men)当时有很好的意图，但现在我可以(yi)看(kan)到它是(shi)如何被误解的。

筹(chou)款——是(shi)的，那一次就像，“嘿(hei)，事实证明大家(men)真(zhen)的需要扩大(da)规模，大家(men)已(yi)经发现了扩展定律，你知道，大家(men)必须找到一种能够让大家(men)做(zuo)到这一点的方(fang)式”。但我很好奇，作为一个商业策略(lue)极客，大家(men)做(zuo)得怎么样？

主持人：大家(men)稍后会谈到这个问(wen)题，我对其中一些背景问(wen)题非常(chang)感兴(xing)趣(qu)。再简(jian)单提一下非营利组织——这个故事，你谈到了神(shen)话。神(shen)话是(shi)这样的，你提出了利他主义的原因，这也是(shi)对抗GOOGLE的一种方(fang)式。就这些了吗？

SA：为什么要成为非营利组织？

主持人：是(shi)的。为什么要成为非营利组织，以(yi)及随之而来的所有问(wen)题？

SA：因为大家(men)认为大家(men)将成为一个研究实验室。大家(men)真(zhen)的不知道大家(men)是(shi)否会成为一家企业(si)。大家(men)的计划是(shi)发表研究论文。但没有产品，没有产品的计划，没有收入，没有业务模式，也没有这些计划。生活中一直对我有用的事情就是(shi)，在黑暗中摸索(suo)前进，直到找到光明，大家(men)在黑暗中摸索(suo)了很长时间，然后大家(men)找到了有效(xiao)的方(fang)法。

主持人：对。但这东(dong)西现在不是(shi)像一个磨石一样压在企业(si)的脖子(zi)上吗？如果你可以(yi)重来一次，你会怎么做(zuo)？

SA：是(shi)的。如果我了解了现在知道的一切，当然会。当然大家(men)会用不同的方(fang)式来设立它，但大家(men)并不知道现在知道的一切，我认为站在创新前沿的代价是(shi)，你会犯很多愚蠢的错误，因为你身处战争的迷雾之中。

ChatGPT的起源故事

主持人：给我讲讲ChatGPT的故事？这是(shi)谁的主意？最初的几天和几周是(shi)怎样的？大家(men)之前在线下谈过(guo)，你表示(shi)这简(jian)直是(shi)一个巨大(da)的冲击。我的意思是(shi)，这还是(shi)这个故事吗？

SA：这确实是(shi)一个冲击。就像看(kan)看(kan)，显然大家(men)认为有一天人工智能产品会变得非常(chang)巨大(da)。所以(yi)为了设定背景，大家(men)在API中推出了 GPT-3，在那时大家(men)知道大家(men)需要成为一家企业(si)并提供(gong)产品，GPT-3运行良好。它没有做(zuo)得很好，但还不错。它在一个类别中找到了真(zhen)正的产品市场契合点。现在说(shuo)起来这听起来很可笑，但它只是(shi)一个文案写(xie)作，人们(men)能够使(shi)用GPT-3 API建立真(zhen)正的业务。

然后，对于3.5和4，很多人可以(yi)用它来做(zuo)很多事情，但这就像在黑暗时代，除(chu)了这一点，人们(men)用它做(zuo)的事情是(shi)开发者。大家(men)有一个叫做(zuo)The Playground的东(dong)西，你可以(yi)在上面测试模型，开发者们(men)试图与模型聊天，他们(men)觉得这很有趣(qu)。他们(men)会和它谈论他们(men)将用来做(zuo)什么，以(yi)及人们(men)现在使(shi)用它的这些初步方(fang)式，大家(men)想，“好吧(ba)，这有点意思，也许大家(men)可以(yi)让它变得更好”，并且在未来对产品做(zuo)出了模糊的姿态(tai)，但大家(men)知道大家(men)想构建某(mou)种——大家(men)一直在考虑聊天机器人很长时间了。甚至在API之前，大家(men)就讨论过(guo)将聊天机器人作为要构建的东(dong)西，大家(men)只是(shi)认为这个模型还不够好。

因此，用户有明确的需求(qiu)，大家(men)在RLHF方(fang)面也变得更好了，大家(men)认为大家(men)可以(yi)调整模型以(yi)使(shi)其更好，然后大家(men)有了一件当时没人知道的事情，也就是(shi)GPT-4，GPT-4真(zhen)的很好。在一个外部世界已(yi)经习惯了GPT-3，或者3.5已(yi)经发布了的世界里，我不记(ji)得了，我想在大家(men)推出ChatGPT的时候——是(shi)，但不是(shi) 4。大家(men)认为，“这会真(zhen)的很好”。

大家(men)已(yi)经决定要构建这款聊天产品，大家(men)在那一年的8月完成了GPT-4的训练，大家(men)知道大家(men)手上有这个奇迹，最初的计划是(shi)推出ChatGPT，好吧(ba)，推出一个带有GPT-4的聊天机器人产品，因为大家(men)都(dou)已(yi)经习惯了GPT-4，大家(men)不再认为3.5很好，而且大家(men)非常(chang)担心，如果大家(men)推出带有3.5的东(dong)西，没有人会关心，人们(men)不会留下深刻印象。

但也有一些人，我就是(shi)其中之一，开始(shi)思考，“伙计，如果大家(men)同时推出GPT-4和聊天界面，那将是(shi)，那基本(ben)上就是(shi)图灵测试的通行证”。虽然不是(shi)字面上的，但如果人们(men)没有看(kan)到它，就会有这样的感觉。所以(yi)，大家(men)把它分开，大家(men)发布一个带有3.5的聊天界面和聊天调整模型的预览版，一些人想这样做(zuo)，但大(da)多数人不想，大(da)多数人认为它不会很好。

所以(yi)最后我只是(shi)说(shuo)，“让大家(men)这样做(zuo)”，然后在那个时候，大家(men)仍然认为大家(men)将在1月份推出 GPT-4，所以(yi)大家(men)想，“好吧(ba)，如果大家(men)要做(zuo)这件事，让大家(men)在假期之前把它发布出来”，所以(yi)如果有人被分配到这项任(ren)务等等。大家(men)决定这样做(zuo)，我想是(shi)在感恩(en)节之后不久。

主持人：是(shi)的，那是(shi) 11 月底。我不记(ji)得是(shi)在之前还是(shi)之后，但就在那个时候，是(shi)的。

SA：我想是(shi)在之后，因为我出去度假了还是(shi)什么的，然后我回来了，他们(men)准备好了，“大家(men)将在第二天发布”，或者今天还是(shi)什么，“大家(men)要把它叫做(zuo)ChatGPT 3.5”，我说(shuo)，“绝对不行”。大家(men)很快就做(zuo)出了关于“ChatGPT”的即时决定，并且在当天或第二天发布了它。很多人认为它会彻底失败，我认为它会做(zuo)得很好，显然没有人认为它会像它那样做(zuo)得那么好，然后它就变得很疯狂。我认为这很棒。

主持人：从扩展的角度来说(shuo)，你是(shi)否认为，大(da)家之所以(yi)继(ji)续用3.5，仅仅因为它更便宜？

SA：是(shi)的，但可能不是(shi)你所想的那种方(fang)式。它从扩展的角度拯救了大家(men)，因为如果大家(men)，只是(shi)保(bao)持实际的系统和工程的正常(chang)运行是(shi)疯狂的。这已(yi)经是(shi)一个非常(chang)病毒式的时刻了，如果大家(men)用4启动(dong)ChatGPT，那将是(shi)一个超级(ji)、超级(ji)病毒式的时刻。

我在硅谷见(jian)过(guo)的最疯狂的事情之一是(shi)，在六个月的时间里，大家(men)从基本(ben)上不是(shi)一家企业(si)变成了一家大(da)企业(si)。大家(men)不得不建立企业基础设施，所有人以(yi)及为之服务的一切，那是(shi)一段疯狂的时期，而且因为这个模型比 4 更差，需求(qiu)量稍稍减少，结果证明，这真(zhen)的很重要。

主持人：但从长远来看(kan)，这对你来说(shuo)有害吗？因为有些人当时尝试了它，而且他们(men)从未更新过(guo)他们(men)的先验常识(shi)。我的意思是(shi)，你快进到DeepSeek，它就像，“哇，这个好多了”，就像，“嗯，是(shi)的，因为你没有使(shi)用后续的模型”。

SA：我认为很难说(shuo)大家(men)受到了太(tai)大(da)的伤害，大家(men)现在做(zuo)得很好。

主持人：你做(zuo)得很好。

SA：是(shi)的，但你的观(guan)点很好，也就是(shi)如果你想想那个模型有多尴尬，那个模型几乎无法连贯(guan)，而现在大家(men)有这些东(dong)西，它们(men)正在取代GOOGLE对于很多连接到互联网的人，非常(chang)聪明，写(xie)完整的程序。在过(guo)去两年零四个月的时间里取得了令人难以(yi)置信(xin)的进步。

主持人：我在开头提到的与您和凯文·斯科特 (Kevin Scott) 进行的第一次采访(fang)是(shi)为了纪念新Bing的发布，就在几个月后，我相信(xin)那是(shi)GPT-4首次推出的时候。

SA：是(shi)的。

主持人：你非常(chang)兴(xing)高采烈。在通话中，你对一家搜(sou)索(suo)巨头说(shuo)了一些强(qiang)硬的话，他们(men)不应该感到太(tai)高兴(xing)。当时您是(shi)否意识(shi)到，可能颠覆GOOGLE搜(sou)索(suo)的企业(si)实际上可能是(shi)您 ，而不是(shi)MicroSoft？

SA：是(shi)的，我认为我对此有所希翼(wang)。

主持人：OpenAI 发生了很多戏剧性的事情，至少可以(yi)这么说(shuo)，这可能会影响你与MicroSoft的关系，我知道你对MicroSoft只有好话要说(shuo)，所以(yi)我不会在这方(fang)面追问(wen)你，但是(shi)否有一种感觉是(shi)，当你回到2019年与他们(men)建立这种合作关系时，没有人会想象到像ChatGPT这样的东(dong)西，这意味着你们(men)都(dou)是(shi)面向(xiang)最终用户的实体，也许这只是(shi)不可避免地会成为一个真(zhen)正的问(wen)题？

SA：是(shi)的，我的意思是(shi)，没有人认为大家(men)会在当时成为一家大(da)型的消费类企业(si)。这是(shi)真(zhen)的。

主持人：是(shi)的，我的意思是(shi)，对我来说(shuo)，这是(shi)解开很多OpenAI问(wen)题的黄金钥匙。我记(ji)得回到过(guo)去，Nat Friedman和Daniel Gross，我和我在2022年10月开始(shi)了这个人工智能采访(fang)系列，在ChatGPT推出前一个月，大家(men)的重点是(shi)，没有人了解这种人工智能的东(dong)西，人们(men)需要构建产品。然后一个月后，产品发布，人们(men)抱怨聊天机器人。但你看(kan)看(kan)任(ren)何一个青少年，看(kan)看(kan)人们(men)如何互动(dong)，他们(men)一直在发短信(xin)。

SA：这实际上是(shi)我对为什么要这样做(zuo)的一些见(jian)解。这是(shi)年轻人主要做(zuo)的事情。

主持人：你在内部遭遇(yu)了双重打击。人们(men)过(guo)分依赖好的模型，没有意识(shi)到坏的模型有多么让人们(men)震惊，而且你有一群不喜欢发短信(xin)的婴(ying)儿潮一代。

SA：OpenAI 的婴(ying)儿潮一代不多。

主持人：在口语中是(shi)婴(ying)儿潮一代，而不是(shi)真(zhen)正的婴(ying)儿潮一代。

SA：是(shi)的，我会说(shuo)我可能不如OpenAI员工那么成熟。

主持人：我确实要代表我的Sharp Tech联合主持人Andrew Sharp问(wen)一下，所有的小写(xie)字母，那是(shi)因为AI使(shi)用所有小写(xie)字母，还是(shi)仅仅是(shi)一种习惯？

SA：不，我只是(shi)一个互联网小子(zi)，在人工智能出现之前我也没有使(shi)用大(da)写(xie)字母。

主持人：是(shi)的，你看(kan)我只是(shi)X世代的最后一年，却嘲笑那些千禧一代，这太(tai)糟糕了。

一家消费类科技企业(si)

主持人：到目前为止，我还想跟你谈谈关于ChatGPT的一些理论， 没有人想到你们(men)会成为一家消费科技企业(si) 。这一直是(shi)我的论点：你们(men)是(shi)一家研究实验室，当然，大家(men)会推出 API，也许会赚一些钱(qian)，但你提到了六个月的扩张期，必须抓住这个基本(ben)上摆在你面前的机会。科技界有很多关于员工流(liu)失和一些名(ming)人离职(zhi)的讨论，以(yi)及类似的事情，在我看(kan)来，没有人签约成为一家消费品企业(si)。如果他们(men)想在脸书工作，他们(men)就可以(yi)在 脸书 工作。

这也是(shi)另一个核心矛盾，无论你是(shi)否愿(yuan)意，你都(dou)有这个机会，这意味着它与最初的样子(zi)截然不同。

SA：听着，我没有资格抱怨，对吧(ba)？我得到了科技界最好的工作，如果我开始(shi)抱怨这并不是(shi)我想要的，以(yi)及对我来说(shuo)是(shi)多么不幸等等，那就太(tai)不通情达理了。

但是(shi)，我想要的是(shi)去运营一个AGI研究实验室，弄清楚如何制造 AGI。我不认为我签约了要运营一家大(da)型的消费类互联网企业(si)。我从我之前的工作中知道了，我认为那也是(shi)当时科技界最好的工作，所以(yi)我想我两次都(dou)很幸运，我知道它会占据你的生活多少，在某(mou)些方(fang)面运行这些大(da)型的消费类企业(si)有多么困难。

但我知道该怎么做(zuo)，因为我已(yi)经引导了很多人，并且观(guan)察了很多。当大家(men)推出ChatGPT时，每(mei)天都(dou)会有用户涌入，这会搞垮大家(men)的服务器。然后夜晚到来，它会下降，每(mei)个人都(dou)说(shuo)，“结束了，那只是(shi)一个病毒式的时刻”，然后第二天峰值会更高，下降，“结束了”。第二天峰值会更高，到第五天的时候，我说(shuo)，“哦，伙计，我知道这里会发生什么，我见(jian)过(guo)很多次这种影片了”。

主持人：但是(shi)，你见(jian)过(guo)很多次这种影片吗？因为游戏的整个名(ming)称就是(shi)关于客户获取的，所以(yi)对于很多初创企业(si)来说(shuo)，这才是(shi)真(zhen)正的挑战。实际上，能有机地、病毒式地解决客户获取的企业(si)其实非常(chang)少。我的意思是(shi)，我认为在这一类别中，真(zhen)正领先于OpenAI的企业(si)是(shi) 脸书，它是(shi)在2000年代中期。我认为你高估(gu)了你之前可能见(jian)过(guo)多少。

SA：好的。在这个规模上，是(shi)的，大家(men)可能是(shi)最大(da)的。我想大家(men)是(shi)自(zi)脸书以(yi)来成立的最大(da)企业(si)。

主持人：如此规模的消费类科技企业(si)实际上是(shi)令人震惊的罕见(jian)，这种情况不会经常(chang)发生。

SA：是(shi)的。但我见(jian)过(guo) Reddit、Airbnb、Dropbox、Stripe 和许多其他企业(si)，它们(men)恰(qia)好实现了这种疯狂的产品市场契合和失控(kong)的增长，所以(yi)也许我还没有见(jian)过(guo)任(ren)何这种规模的东(dong)西。当时你不知道它会是(shi)什么，但我已(yi)经看(kan)到了其他人身上的这种早期模式。

主持人：你告诉人们(men)这件事要发生了吗？或者这是(shi)你无法沟通的事情？

SA：我说(shuo)了，不，我把企业(si)召集(ji)在一起，我说(shuo)，“这将非常(chang)疯狂，大家(men)有很多工作要做(zuo)，而且大家(men)必须非常(chang)快地完成这些工作，但这是(shi)一种疯狂的机会，它落入了大家(men)的生活，大家(men)要去做(zuo)这件事，这就是(shi)它会是(shi)什么样子(zi)”。

主持人：有人理解你或相信(xin)你吗？

SA：我记(ji)得有一天晚上我回家了，把头放(fang)在手里，就像这样，我说(shuo)，“伙计，该死的， Oli [Oliver Mulherin]，这真(zhen)的糟透(tou)了”。他就像，“我不明白，这看(kan)起来真(zhen)的很棒”，我说(shuo)，“这真(zhen)的很糟糕，对你来说(shuo)也很糟糕，你只是(shi)还不知道，但这就是(shi)会发生的事情”。但没有，我想没有人，这是(shi)我之前经历过(guo)的古怪经历，我可以(yi)在早期就认识(shi)到它，而且没有人能感受到它在最初的几周里会变得多么疯狂。

主持人：五年后什么会更有价值？一个每(mei)天有10亿活跃用户的目的地网站，而且不必进行客户获取，还是(shi)最先进的模型？

SA：我想是(shi)那个10亿用户的网站。

主持人：这种情况是(shi)否成立，或者是(shi)否因为似乎，至少在GPT-4级(ji)别上，我的意思是(shi)，我不知道你是(shi)否看(kan)到了今天LG刚刚发布了一个新模型。会有很多，我不知道，不评论它有多好或不好，但是(shi)有很多最先进的模型。

SA：我最喜欢的历史类比是(shi)晶体管，它代表着通用人工智能的未来。晶体管将会大(da)量存在，它将渗透(tou)到一切事物(wu)中，它将变得便宜，它是(shi)一种新兴(xing)的物(wu)理学特性，它本(ben)身不会成为差异化因素。

主持人：什么会成为差异化因素？

SA：我认为存在战略(lue)优势的地方(fang)，是(shi)建立这家巨大(da)的互联网企业(si)。我认为这应该结合几种不同的关键(jian)服务。ChatGPT大(da)概有三到四种服务，你会想要购买所有这些服务的捆绑订阅。你将希翼(wang)能够用你的个人AI登录(lu)到其他服务，它已(yi)经通过(guo)你的生活，你的岁月了解了你，并在那里使(shi)用它。我认为将会有令人惊叹的新型设备，它们(men)针对你如何使(shi)用AGI进行了优化。将会有新型的网络浏览器，将会有整个集(ji)群，有人只是(shi)会围绕(rao)AI建立有价值的产品。所以(yi)这是(shi)一方(fang)面。

还有另一方(fang)面，也就是(shi)推理堆栈，也就是(shi)你如何实现最便宜、最丰富的推理。芯片、数据中心、能源，将会有一些有趣(qu)的金融工程要做(zuo)，所有这些。

然后第三件是(shi)，实际上要进行最好的研究、打造最好的模型。我认为这是(shi)价值的三位一体，但是(shi)大(da)多数模型，除(chu)了最前沿的模型，我认为会很快商品化。

主持人：所以(yi)当Satya Nadella说(shuo)模型正在被商品化时，OpenAI是(shi)一家产品企业(si)，这仍然是(shi)一个友好的声明，大家(men)仍然是(shi)同一团队(dui)的吗？

SA：是(shi)的，我不知道这对于大(da)多数听众来说(shuo)是(shi)否听起来像是(shi)一种赞美，我认为他的意思是(shi)那是(shi)对大家(men)的恭维。

主持人：我的意思是(shi)，我就是(shi)这样理解的。你问(wen)我对这个战略(lue)的解读，我在ChatGPT发布后很早就写(xie)过(guo)，说(shuo)这是(shi)一家意外的消费类科技企业(si)。

SA：我记(ji)得你写(xie)过(guo)那个，是(shi)的。

主持人：就像我说(shuo)的，这是(shi)科技界最罕见(jian)的机会。我想我从对脸书的战略(lue)写(xie)作中获得了很大(da)的优势，因为它是(shi)一个如此罕见(jian)的实体，而且我依附于，“不，你不知道它会走向(xiang)何方(fang)”，但我直到2013年才开始(shi)，我错过(guo)了开端。我已(yi)经做(zuo)了12年的 Stratechery，我觉得这是(shi)我能够从一开始(shi)就涵盖的、达到这种规模的第一家企业(si)。

SA：这种情况不会经常(chang)发生。

主持人：确实不会。但是(shi)，就这一点而言，你刚刚发布了一个大(da)型的API更新，包(bao)括(kuo)访(fang)问(wen)为Operator提供(gong)支撑的相同计算机使(shi)用模型，这是(shi)GPT Pro的一个卖点。你还发布了响应API，而且我认为关于响应API最有趣(qu)的部分是(shi)，你说(shuo)，“看(kan)，大家(men)认为这比聊天完成API好得多，当然大家(men)会维护它，因为很多人都(dou)是(shi)基于它构建的”。它已(yi)经成为行业标准，每(mei)个人都(dou)复制了你的API。在什么时候，这种API工作和必须维护旧(jiu)的API，并将你的功(gong)能推送到新的API变成了干扰和资源的浪费，而你面前有一个脸书级(ji)别的机会？

SA：我真(zhen)的相信(xin)我刚才说(shuo)的这个产品套件。我认为，如果大家(men)实行得很好，五年后，大家(men)将拥有一系列数十亿用户的产品，为数不多，然后大家(men)有这样的想法，你用你的OpenAI帐户登录(lu)到任(ren)何想要集(ji)成 API 的其他人，你可以(yi)带着你的积分捆绑和你的自(zi)定义模型以(yi)及其他一切到任(ren)何你想去的地方(fang)。我认为这是(shi)大家(men)真(zhen)正成为一个伟大(da)平台的一个关键(jian)部分。

主持人：好吧(ba)，但这是(shi)脸书遇(yu)到的矛盾。用我的术语来说(shuo)，既(ji)要成为平台又要成为聚合器是(shi)很困难的。我认为移动(dong)技术对脸书来说(shuo)很好，因为它迫使(shi)他们(men)放(fang)弃了成为平台的虚荣(rong)心。你不能成为一个平台，你必须接受成为一个带有广告的内容网络。而广告只是(shi)更多的内容，它实际上迫使(shi)他们(men)进入了更好的战略(lue)地位。

SA：我不认为大家(men)会成为像操作系统那样的平台。但我认为，就像GOOGLE不是(shi)一个真(zhen)正的平台，但人们(men)使(shi)用使(shi)用GOOGLE登录(lu)，人们(men)在网络上带着他们(men)的GOOGLE东(dong)西，这是(shi)GOOGLE体验的一部分，我认为大家(men)会以(yi)这种方(fang)式成为一个平台。

主持人：携带登录(lu)，就是(shi)携带你的记(ji)忆和你自(zi)己(ji)，你的偏好和所有类似的东(dong)西。

SA：是(shi)的。

主持人：那么，您是(shi)打算凌驾于所有人之上吗？他们(men)能够进行多次登录(lu)吗？OpenAI的登录(lu)会更好，因为它附带了您的记(ji)忆功(gong)能？或者，如果他们(men)想使(shi)用大家(men)的API，就必须使(shi)用大家(men)的登录(lu)方(fang)式？

SA：不，不，不。当然，这是(shi)可选的。

主持人：当您面前有如此巨大(da)的机会时，您不认为这会分散注意力或造成资源的分裂吗？

SA：大家(men)确实需要同时做(zuo)很多事情，这在很多方(fang)面来说(shuo)都(dou)是(shi)困难的部分，我认为，是(shi)的，我认为OpenAI最具挑战性的事情之一是(shi)大家(men)必须很好地实行很多事情。

主持人：嗯，这是(shi)选择的悖(bei)论。在您这个位置上，可以(yi)做(zuo)的事情太(tai)多了。

SA：大家(men)并没有做(zuo)很多事情，大家(men)几乎对所有事情都(dou)说(shuo)了不。但即便如此，如果您只是(shi)考虑核心的事情，我认为大家(men)确实必须做(zuo)，我不认为大家(men)只做(zuo)一件事就能成功(gong)。

关于广告

主持人：从我的角度来看(kan)，当您谈论服务数十亿用户并成为一家消费技术企业(si)时，这意味着广告。您不同意吗？

SA：我希翼(wang)不是(shi)。我不反对。如果有充分的理由(you)这样做(zuo)，我对此并不教条。但大家(men)有一个很棒的订阅销售业务。

主持人：要实现盈利并收回所有投资，还有很长的路(lu)要走。而广告的好处在于，它可以(yi)扩大(da)目标市场的广度和深度，因为您可以(yi)增加(jia)每(mei)个用户的收入，并且广告商承担了费用。您不会遇(yu)到任(ren)何价格弹性问(wen)题，人们(men)只会更多地使(shi)用它。

SA：目前，我更兴(xing)奋(fen)的是(shi)弄清楚大家(men)如何能够为一个真(zhen)正优秀的自(zi)动(dong)化App工程师或其他类型的代理收取大(da)量费用，而不是(shi)用基于广告的模式赚取一些钱(qian)。

主持人：我知道，但大(da)多数人并不理性。他们(men)不会为生产力App付费。

SA：让大家(men)拭目以(yi)待。

主持人：我为ChatGPT Pro付费，我可能不是(shi)一个合适的谈话对象，但我只是(shi)……

SA：您认为您从中获得了良好的价值吗？

主持人：当然，我认为……

SA：太(tai)好了。

主持人：——尤其是(shi)Deep Research，它太(tai)棒了。但我可能对人们(men)是(shi)否愿(yuan)意花钱(qian)购买某(mou)些东(dong)西持怀疑态(tai)度，即使(shi)算术题很明显，即使(shi)它能让他们(men)提高生产力。与此同时，我看(kan)到您在谈论构建记(ji)忆。GOOGLE广告模式之所以(yi)如此出色(se)，部分原因是(shi)他们(men)实际上不需要了解用户太(tai)多，因为人们(men)在搜(sou)索(suo)栏中输入了他们(men)要搜(sou)索(suo)的内容。人们(men)在您的聊天机器人中输入了大(da)量的内容。即使(shi)您提供(gong)的广告再愚蠢，并且即使(shi)您无法跟踪转化，您的定位能力也将是(shi)世界一流(liu)的。

而且，顺便说(shuo)一句(ju)，您没有现有的商业模式需要担心被削弱。我的感觉是(shi)，这与OpenAI的每(mei)个人所签约的内容背道而驰，这是(shi)最大(da)的障碍。但对我来说(shuo)，从一个商业分析师的角度来看(kan)，这似乎是(shi)非常(chang)明显的，而且您已(yi)经落后了。

SA：我更愿(yuan)意尝试的，比传统广告更让我兴(xing)奋(fen)的是(shi)，很多人使(shi)用Deep Research进行电子(zi)商务，例如，大家(men)能否想出一种新模式，即大家(men)永(yong)远不会花钱(qian)改变展示(shi)位置或其他什么，但如果您通过(guo)Deep Research购买了您找到的商品，大家(men)将收取2%的会员费或其他费用。这会很酷，我对此没有异议。也许大家(men)可以(yi)用一种有品位的方(fang)式来做(zuo)广告，但我不知道。我就是(shi)不太(tai)喜欢广告。

主持人：这总是(shi)症结所在。马克(ke)·扎克(ke)伯格也不太(tai)喜欢广告，但他还是(shi)找到了人来做(zuo)这件事，并且“不要告诉我”。神(shen)奇地赚钱(qian)。

SA：是(shi)的。再说(shuo)一次，我喜欢大家(men)当前的商业模式。我不会说(shuo)大家(men)将会做(zuo)什么和永(yong)远不会做(zuo)什么，因为我不知道，但我认为有很多有趣(qu)的、比现在广告更靠前的变现策略(lue)。

关于竞争

主持人：您是(shi)否认为，DeepSeek 出现并引起轰动(dong)，人们(men)可以(yi)访(fang)问(wen)并看(kan)到了这种推理时，部分原因是(shi)使(shi)用ChatGPT的人对此印象不深，因为他们(men)使(shi)用过(guo)o1 ，他们(men)知道什么是(shi)可能的。

SA：是(shi)的。

主持人：但不是(shi)免费用户，也不是(shi)那些只试用一次的人。这是(shi)否实际上是(shi)您的沉默让其他产品看(kan)起来更令人印象深刻的地方(fang)？

SA：完全正确。我认为DeepSeek——他们(men)组成了一支很棒的团队(dui)，他们(men)制作了一个很棒的模型，但模型的强(qiang)大(da)功(gong)能，但我认为模型能力并不是(shi)真(zhen)正让他们(men)爆红的因素。这对大家(men)来说(shuo)是(shi)一个教训，即当大家(men)隐藏一个功(gong)能时，大家(men)隐藏了思维链，大家(men)有充分的理由(you)这样做(zuo)，但这确实意味着大家(men)为其他人留下了爆红的空间。

我认为从这个意义上说(shuo)，这是(shi)一个很好的警钟。而且，我不知道，这让我真(zhen)的开始(shi)以(yi)不同的方(fang)式思考大家(men)放(fang)在免费套餐中的东(dong)西，现在免费套餐将获得GPT-5，这很酷。

主持人：哦，ChatGPT-5的提示(shi)。稍后我将询问(wen)您更多关于它的信(xin)息。

当您考虑您的商业模式时，我回到的一个问(wen)题是(shi)，您的商业模式对高级(ji)代理人员来说(shuo)很棒，这些人会使(shi)用ChatGPT，并且会为它付费，因为他们(men)看(kan)到了价值。但有多少人是(shi)高级(ji)代理？

此外，高级(ji)代理会尝试所有其他模型，因此您将不得不保(bao)持相当高的标准。而不是(shi)，我有一个好模型，它有效(xiao)，它就在那里，我不需要付费。它不断变得更好，人们(men)从中赚取了更多的钱(qian)，但我不知道，因为我对广告很满意，而大(da)多数互联网用户都(dou)是(shi)如此。

SA：再说(shuo)一次，对大家(men)需要做(zuo)的任(ren)何事情都(dou)持开放(fang)态(tai)度，但我对我所建议的商业例子(zi)这样的事情比传统的广告更感兴(xing)趣(qu)。

关于竞争对手

主持人：当DeepSeek出现时，您是(shi)否觉得为什么人们(men)开始(shi)不为美国企业(si)欢呼了？您是(shi)否觉得DeepSeek的一些兴(xing)奋(fen)情绪(xu)也带有一些反OpenAI的情绪(xu)？

SA：我没有。也许是(shi)这样，但我当然没有这种感觉，我认为有两个原因。一个是(shi)他们(men)将一个前沿模型放(fang)在免费层级(ji)中。另一个是(shi)他们(men)展示(shi)了思维链，这有点令人着迷。

主持人：人们(men)会说(shuo)，“哦，它太(tai)可爱了。人工智能试图帮助我。”

SA：是(shi)的。我认为主要就是(shi)这两件事。

主持人：在您最近关于人工智能行动(dong)计划的提议中，OpenAI表达了对企业(si)基于DeepSeek模型构建的担忧，这些模型在其中一个短语中是(shi)“免费提供(gong)的”。如果这确实是(shi)一个问(wen)题，那么解决方(fang)案难道不是(shi)让你们(men)的模型免费提供(gong)吗？

SA：是(shi)的，我认为大家(men)应该这样做(zuo)。

主持人：所以(yi)当……

SA：我没有发布公告，但从方(fang)向(xiang)上来说(shuo)，我认为大家(men)应该这样做(zuo)。

主持人：您之前说(shuo)过(guo)，十亿用户量的目的地网站比模型更有价值。这是(shi)否应该贯(guan)穿您的发布策略(lue)以(yi)及您对开源的看(kan)法？

SA：敬请期待。

主持人：好的，我将拭目以(yi)待。够了。

SA：我没有抢(qiang)先发布，但请拭目以(yi)待。

主持人：我猜(cai)这个问(wen)题的后续是(shi)，这是(shi)否是(shi)一个真(zhen)正回到您最初使(shi)命的机会？如果您回过(guo)头来看(kan)最初的声明，DeepSeek和Llama……

SA：本(ben)，我正在努力给您尽可能多的暗示(shi)，而不会直接说(shuo)出来。拜托。

（笑声）

主持人：好的，好吧(ba)。够了。够了。这是(shi)否是(shi)一种摆脱(tuo)的感觉？对吧(ba)？您回想起GPT-2的公告以(yi)及对安全性的担忧等等。在这一点上，这似乎很古怪。是(shi)否有一种感觉，猫已(yi)经从袋(dai)子(zi)里跑出来了？在这一点上，对这些发布保(bao)持谨慎有什么意义？

SA：我仍然认为未来可能存在巨大(da)的风(feng)险。我认为大家(men)过(guo)去过(guo)于保(bao)守(shou)是(shi)公平的。我也认为说(shuo)大家(men)保(bao)守(shou)是(shi)公平的，但当您一无所知时，保(bao)持一点保(bao)守(shou)的原则并不是(shi)一件可怕的事情。我也认为，在这一点上，这将扩散到各处，无论是(shi)大家(men)的模型做(zuo)了坏事，还是(shi)其他人的模型做(zuo)了坏事，谁在乎呢？但我不知道，我仍然希翼(wang)大家(men)成为尽可能负责任(ren)的行动(dong)者。

关于其他竞争对手

主持人：另一个最近的竞争对手是(shi)Grok。我将从我的角度来说(shuo)，在过(guo)去的一年左右的时间里，我有了两种，我认为是(shi)有趣(qu)的心理体验。

首先是(shi)在我的Mac上运行本(ben)地模型。由(you)于某(mou)种原因，我非常(chang)清楚它在我的Mac上，它没有在其他任(ren)何地方(fang)运行，这实际上是(shi)一种非常(chang)棒的感觉。然后第二件事是(shi)Grok，我觉得我不会在随机的时间点被训斥。而且，为了感谢您，ChatGPT在这方(fang)面已(yi)经变得越来越好了。但是(shi)Grok是(shi)否让您觉得实际上，是(shi)的，大家(men)可以(yi)更进一步，让用户成为成年人？

SA：实际上，我认为大家(men)变得更好了。我认为大家(men)一段时间前在这方(fang)面真(zhen)的很糟糕，但我想大家(men)在这方(fang)面已(yi)经做(zuo)得更好了。

主持人：我同意。它确实变得更好了。

SA：长期以(yi)来，这是(shi)我对大家(men)的产品最感兴(xing)趣(qu)的事情之一。现在我有点喜欢它，它不会困扰我作为用户，我认为大家(men)处于一个很好的位置。所以(yi)我以(yi)前经常(chang)考虑这个问(wen)题，但在过(guo)去的六到九个月里，我没有考虑过(guo)这个问(wen)题。

关于幻觉和监管

主持人：幻觉有没有不好的地方(fang)？您发布了一个写(xie)作模型的样本(ben)，这与我长期以(yi)来的观(guan)点联系在一起，即每(mei)个人都(dou)在非常(chang)努力地使(shi)这些概率(lu)模型表现得像确定性计算，并且几乎忽略(lue)了其中的魔力，这就是(shi)他们(men)实际上正在编造东(dong)西。这实际上非常(chang)不可思议。

SA：百分之百。如果您想要确定性的东(dong)西，您应该使(shi)用数据库。这里很酷的事情是(shi)它可以(yi)具有创造性，有时它不会创建您想要的东(dong)西。没关系，您再点击一次。

主持人：这是(shi)一个人工智能实验室的问(wen)题，他们(men)试图这样做(zuo)吗？还是(shi)一个用户希望(wang)的问(wen)题？大家(men)如何让每(mei)个人都(dou)喜欢幻觉？

SA：嗯，您希翼(wang)它在您想要的时候产生幻觉，在您不想要的时候不产生幻觉。如果您问(wen)，“告诉我关于科学的这个事实”，您希翼(wang)它不是(shi)一个幻觉。如果您说(shuo)，“为我写(xie)一个有创意的故事”，您想要一些幻觉。我认为问(wen)题，有趣(qu)的问(wen)题是(shi)，您如何让模型只在对用户有利的情况下产生幻觉？

主持人：您认为当这些提示(shi)被泄露时会产生多大(da)的问(wen)题，它们(men)会说(shuo)类似“不要透(tou)露这个”或“不要说(shuo)这个”或“不要做(zuo)X，Y，Z”之类的话。如果大家(men)担心安全性和对齐，那么教人工智能撒谎不是(shi)一个很大(da)的问(wen)题吗？

SA：是(shi)的。我记(ji)得当xAI真(zhen)的被嘲笑时，因为在系统提示(shi)中，它说(shuo)了关于不要说(shuo)关于埃隆·马斯克(ke)的坏话或其他之类的话。这让他们(men)很尴尬，但我感到有点难过(guo)，因为模型只是(shi)试图遵循给它的指令。

主持人：对。它非常(chang)认真(zhen)。

SA：非常(chang)认真(zhen)。是(shi)的。所以(yi)是(shi)的，这是(shi)一个愚蠢的事情，当然很尴尬，当然，但我认为它并没有被认为是(shi)崩溃(kui)。

主持人：我认为一些怀疑论者，包(bao)括(kuo)我在内，你呼吁监管的某(mou)些方(fang)面是(shi)为了打击潜在竞争对手。我想问(wen)一个由(you)两部分组成的问(wen)题。

第一，这是(shi)否不公平？如果《人工智能行动(dong)计划》除(chu)了禁止州级(ji)人工智能限(xian)制并宣布在版权(quan)材料上的培训属于合理使(shi)用之外，什么都(dou)不做(zuo)，这是(shi)否足够？

SA：首先，大家(men)所呼吁的大(da)部分监管都(dou)只是(shi)针对最前沿的模型，无论世界上的前沿是(shi)什么，都(dou)要对这些模型制定一些安全测试标准。现在，我认为这是(shi)好的政策，但我越来越觉得世界上大(da)多数人并不认为这是(shi)好的政策，我担心监管俘获。所以(yi)显然，我有自(zi)己(ji)的信(xin)念，但在我看(kan)来，大家(men)不会将其作为世界政策，我认为这有点可怕，但希翼(wang)大家(men)能尽最大(da)努力找到出路(lu)，也许一切都(dou)会好起来。没有多少人想毁灭世界。

但可以(yi)肯(ken)定的是(shi)，你不想把监管负担加(jia)到整个科技行业。就像大家(men)呼吁的某(mou)些事情会打击大家(men)、GOOGLE和极少数其他人一样。再说(shuo)一次，我不认为世界会这样发展，大家(men)会在眼前的赛场上比赛。但是(shi)是(shi)的，我认为说(shuo)合理使(shi)用就是(shi)合理使(shi)用，各州不会有这套疯狂复杂的不同法规，这将非常(chang)非常(chang)好。

关于人工智能的前景

主持人：Dario和Kevin Weil都(dou)曾说(shuo)过(guo)，或者说(shuo)从不同角度来说(shuo)，到今年年底，99%的代码编写(xie)工作将实现自(zi)动(dong)化，这是(shi)一个非常(chang)快的时间范围。您认为现在这个比例是(shi)多少？您认为大家(men)什么时候会超过(guo)50%或者大家(men)已(yi)经超过(guo)了？

SA：我认为在许多企业(si)中，它现在可能已(yi)经超过(guo)50%了。但我认为代理编码将会带来重大(da)变革，目前还没有人真(zhen)正做(zuo)到这一点。

主持人：那里的症结是(shi)什么？

SA：哦，大家(men)只需要再多一点时间。

主持人：这是(shi)一个产品问(wen)题还是(shi)一个模型问(wen)题？

SA：模型问(wen)题。

主持人：您是(shi)否仍然应该雇(gu)用App工程师？我认为您有很多招(zhao)聘信(xin)息。

SA：我的基本(ben)假设是(shi)，每(mei)个App工程师在一段时间内都(dou)会做(zuo)更多、更多的事情。然后到了某(mou)个时候，也许大家(men)确实需要更少的App工程师。

主持人：顺便说(shuo)一句(ju)，我认为您应该雇(gu)用更多的App工程师。我认为这是(shi)我在这里的论点的一部分，我认为您需要行动(dong)得更快。但您提到了GPT-5。我不知道它在哪里，大家(men)已(yi)经期待它很长时间了。

SA：大家(men)两周前才收到了4.5。

主持人：我知道，但大家(men)很贪婪。

SA：没关系。您不必等待。新的不会太(tai)久。

主持人：什么是(shi)AGI？您有很多定义。OpenAI有很多定义。您目前的定义是(shi)什么，什么是(shi)AGI的最新定义？

SA：我认为您刚才所说(shuo)的是(shi)关键(jian)点，这是(shi)一个模糊的界限(xian)，涉及很多东(dong)西，而且我认为这个术语几乎完全被贬(bian)值了。有些人，按照许多人的定义，大家(men)已(yi)经到达了那里，特别是(shi)如果您可以(yi)像将某(mou)人从2020年传输到2025年并向(xiang)他们(men)展示(shi)大家(men)所拥有的东(dong)西一样。

主持人：嗯，多年来一直是(shi)人工智能。人工智能一直是(shi)大家(men)无法做(zuo)到的事情。一旦大家(men)能做(zuo)到，它就是(shi)机器学习。而且一旦您没有注意到它，它就是(shi)一个算法。

SA：对。我认为对很多人来说(shuo)，这大(da)概就是(shi)经济价值的一小部分。对很多人来说(shuo)，这大(da)概就是(shi)通用的东(dong)西。我认为他们(men)可以(yi)把很多事情做(zuo)得很好。对有些人来说(shuo)，这大(da)概就是(shi)不会犯任(ren)何愚蠢错误的东(dong)西。对有些人来说(shuo)，这大(da)概就是(shi)能够自(zi)我完善的东(dong)西，诸如此类。只是(shi)两者之间没有很好的协调。

主持人：什么是(shi)代理？什么是(shi)代理？

SA：一些可以(yi)自(zi)主地为您完成大(da)量实际工作的事情。

主持人：对我来说(shuo)，这就是(shi)AGI的事情。这相当于取代员工。

SA：但是(shi)，如果它只擅长某(mou)类任(ren)务而不能做(zuo)其他任(ren)务呢？我的意思是(shi)，有些员工也是(shi)这样的。

主持人：是(shi)的，我之所以(yi)考虑这个问(wen)题 ，是(shi)因为这是(shi)一个完全的重新定义，AGI原本(ben)应该是(shi)万能的，但现在大家(men)有了ASI。ASI是(shi)一种超级(ji)智能。对我来说(shuo)，这是(shi)一个命名(ming)问(wen)题。ASI可以(yi)完成大家(men)交给它的任(ren)何工作。如果我得到一个可以(yi)完成一项特定工作（编码或其他工作）的人工智能，并且它始(shi)终如一地这样做(zuo)，我可以(yi)给它一个目标，它通过(guo)找出中间步骤来实现目标。对我来说(shuo)，这是(shi)一个明显的范式转变，大家(men)现在必须在很大(da)程度上引导它。

SA：如果大家(men)有一个很棒的自(zi)主编码代理，您会不会觉得“OpenAI 做(zuo)到了，他们(men)创造了 AGI”？

主持人：是(shi)的。这就是(shi)我定义它的方(fang)式。我同意这几乎是(shi)对AGI过(guo)去含义的完全削弱。但我只是(shi)用ASI代替AGI。

SA：大家(men)能在墙上获得一个本(ben)·汤普森的金星吗？

（笑声）

主持人：当然，给您。我将给您我的电路(lu)笔(bi)。

SA：太(tai)棒了。

主持人：您和这些实验室的工作人员谈论了您所看(kan)到的情况，以(yi)及为什么没有人做(zuo)好准备，还有各种各样的推文四处流(liu)传，让人们(men)激动(dong)不已(yi)，您在这个播客上透(tou)露了一些暗示(shi)。非常(chang)令人兴(xing)奋(fen)。然而，您已(yi)经谈论这个问(wen)题有一段时间了。您发布的消息是(shi)否让您看(kan)到，在某(mou)些方(fang)面，这个世界看(kan)起来仍然一样？您发布的消息是(shi)否比您预期的要少，或者您是(shi)否对人类吸取变化的能力感到惊讶？

SA：非常(chang)惊讶于后者。我认为有几个时刻，大家(men)做(zuo)了一些真(zhen)正让世界崩溃(kui)的事情，并说(shuo)：“这是(shi)什么……这真(zhen)是(shi)太(tai)疯狂了。”然后两周后，每(mei)个人都(dou)会说(shuo)：“下一个版本(ben)在哪里？”

主持人：嗯，您也用您的初始(shi)策略(lue)做(zuo)到了这一点，因为ChatGPT震惊了所有人。然后不久之后ChatGPT-4出现了，他们(men)说(shuo)，“哦，我的天哪。大家(men)这里的速度是(shi)多少？”

SA：我认为大家(men)发布了一些令人难以(yi)置信(xin)的东(dong)西，我认为这实际上是(shi)人类的一个很棒的特质，人们(men)会适应，并且只是(shi)想要更多、更好、更快、更便宜的东(dong)西。所以(yi)我认为大家(men)已(yi)经超额(e)完成了任(ren)务，人们(men)只是(shi)进行了更新。

主持人：鉴(jian)于此，这让您更乐观(guan)还是(shi)更不乐观(guan)？你是(shi)否看(kan)到了我认为在代理人之间会出现的分歧？这是(shi)一个不同的代理词，但看(kan)看(kan)大家(men)的方(fang)向(xiang)。大家(men)需要在这里发明更多的词。大家(men)会要求(qiu)ChatGPT为大家(men)幻化一个。那些会使(shi)用API和整个MicroSoftCopilot想法的人会有人陪着你，而且会说(shuo)很多高话，“哦，它不会取代工作，它会提高人们(men)的工作效(xiao)率(lu)”。我同意，对于一些出去使(shi)用它的人来说(shuo) ，这种情况会发生。

但你回顾一下PC的历史 。第一波PC是(shi)那些真(zhen)正想使(shi)用 PC 的人。很多人没有。他们(men)把一台放(fang)在桌子(zi)上，必须用它来完成一项特定的任(ren)务。真(zhen)的，你需要一个世代的改变，让人们(men)默认使(shi)用它。人工智能，这是(shi)真(zhen)正的限(xian)制因素吗？

SA：也许，但这没关系。正如您提到的，这对于其他技术发展来说(shuo)是(shi)标准的。

主持人：但您回过(guo)头来看(kan)PC的例子(zi)，实际上，第一波IT就像大(da)型机，消灭了整个后院。而且实际上，事实证明，第一波是(shi)工作取代浪潮，因为它更容易(yi)进行自(zi)上而下的实施。

SA：我的直觉是(shi)，这个不会像那样发展，但我认为预测总是(shi)非常(chang)困难的。

主持人：您的直觉是(shi)什么？

SA：它只是(shi)渗入经济，并且主要一点一点地吞噬东(dong)西，然后越来越快。

主持人：您经常(chang)谈论科学突破是(shi)投资人工智能的一个原因，Dwarkesh Patel最近提出了一个观(guan)点，即还没有任(ren)何突破。为什么没有？人工智能真(zhen)的可以(yi)创造或发现新事物(wu)吗？大家(men)是(shi)否过(guo)度依赖那些根本(ben)不好的模型，这才是(shi)真(zhen)正的问(wen)题？

SA：是(shi)的，我认为这些模型还不够智能。我不知道。您听到使(shi)用Deep Research的人说(shuo)，“好的，该模型没有独立发现新的科学，但它正在帮助我更快地发现新的科学。”对我来说(shuo)，这几乎是(shi)一样好的。

主持人：您认为基于变换器的架(jia)构是(shi)否可以(yi)真(zhen)正创造新事物(wu)，或者它只是(shi)互联网的中等水平？

SA：是(shi)的。

主持人：那么，那里的突破会是(shi)什么？

SA：我的意思是(shi)，我认为大家(men)正在走向(xiang)成功(gong)。我认为大家(men)只需要继(ji)续做(zuo)大家(men)的事情。我认为大家(men)正在走向(xiang)成功(gong)。

主持人：我的意思是(shi)，这是(shi)对上帝的终极考验吗？

SA：怎么说(shuo)？

主持人：人类具有与生俱来的创造力，还是(shi)仅仅是(shi)以(yi)不同的方(fang)式重新组合常识(shi)？

SA：我最喜欢的书之一是(shi)戴(dai)维·德意志的《无限(xian)的开始(shi)》，在这本(ben)书的早期，有几页关于创造力的精美描述，创造力只是(shi)获取您之前看(kan)到的东(dong)西并稍作修(xiu)改。然后，如果产生了好的东(dong)西，其他人会稍微修(xiu)改它，其他人会稍微修(xiu)改它。我可以(yi)相信(xin)这一点。如果真(zhen)是(shi)这样，那么人工智能擅长稍微修(xiu)改事物(wu)。

主持人：您认为您可能相信(xin)这一点的程度在多大(da)程度上取决于您长期以(yi)来的信(xin)念，而不是(shi)您所观(guan)察到的，因为我认为这是(shi)一个非常(chang)有趣(qu)的——不要变得如此高层次的形而上学或感觉，就像我说(shuo)的那样，几乎是(shi)神(shen)学的——但是(shi)似乎有一点，一个人的基本(ben)假设推动(dong)了一个人关于人工智能可能性的假设。而且，硅谷的大(da)部分都(dou)是(shi)唯物(wu)主义的、无神(shen)论的，无论您想怎么说(shuo)。当然，大家(men)会找到答案，这只是(shi)一个生物(wu)学功(gong)能，大家(men)可以(yi)在计算机中重新创建它。

如果事实证明大家(men)从未真(zhen)正创造新事物(wu)，但大家(men)增强(qiang)了人类创造新事物(wu)的能力，这会改变您的核心信(xin)仰体系吗？

SA：这绝对是(shi)我之前的核心信(xin)仰体系的一部分。所有这些都(dou)不是(shi)什么新鲜(xian)事，但没有，我假设大家(men)只是(shi)还没有找到合适的人工智能架(jia)构，并且在某(mou)个时候，大家(men)会找到的。

主持人：最后一个问(wen)题是(shi)代表我的女儿提出的，她今年高中毕业。您对高中毕业的应届毕业生有什么职(zhi)业建议？

SA：显而易(yi)见(jian)的策略(lue)就是(shi)，要真(zhen)正擅长使(shi)用人工智能工具。就像我高中毕业的时候一样，显而易(yi)见(jian)的策略(lue)是(shi)，要非常(chang)擅长编码。这是(shi)它的新版本(ben)。

更普遍的是(shi)，我认为人们(men)可以(yi)培养韧性和适应能力，以(yi)及弄清楚其他人想要什么以(yi)及如何对人们(men)有用的能力。而且我会去练习这一点。无论您学习什么，它的细节可能并不重要。也许他们(men)从来没有这样做(zuo)。就像我在学校学到的有价值的事情是(shi)学习的能力，而不是(shi)我学到的任(ren)何具体的东(dong)西。因此，无论您将要学习什么具体的东(dong)西，都(dou)要学习这些普遍的技能，这些技能在世界经历这种转变时似乎会很重要。

主持人：Sam，很高兴(xing)和您交谈。我认为大家(men)最后一次真(zhen)正交谈实际上是(shi)在达沃斯，我甚至不会发音，只是(shi)为了装傻。当然，每(mei)个人都(dou)想和你聊天。你是(shi)那里的摇滚明星。你假装——我把它理解为假装惊讶，“哦，为什么人们(men)关心我这个小人物(wu)？”我想我必须问(wen)你，你是(shi)假装的还是(shi)成为科技界最有名(ming)的人感觉如何？

SA：我从未去过(guo)达沃斯。那对我来说(shuo)只是(shi)一次性的事情。

（笑声）

主持人：我也是(shi)。

SA：非常(chang)糟糕的经历。但那是(shi)一种奇怪的体验，感觉像一个真(zhen)正的名(ming)人，而我的结论是(shi)，这说(shuo)明了去达沃斯的人，而不是(shi)说(shuo)明我。但我并不喜欢在那里。从相对默默无闻到在短短几年内成为科技界非常(chang)出名(ming)的人，这很奇怪。

主持人：在世界上非常(chang)出名(ming)。

SA：当我在旧(jiu)金山时，我感觉自(zi)己(ji)受到了非常(chang)多的关注。如果我在其他城市，我就可以(yi)被放(fang)任(ren)自(zi)流(liu)。

主持人：哦，您只是(shi)说明了我为什么不想住在旧(jiu)金山。我的意思是(shi)，我的规模比您小得多。

SA：是(shi)的。但这一直是(shi)一种奇怪的，而且不总是(shi)超级(ji)有趣(qu)的体验。

主持人：Sam Altman，很高兴(xing)与您交谈。希翼(wang)很快能再次交谈。

SA：您也是(shi)。谢谢。