Lex: 我应该提一下，我在德克萨斯州有机会遇到一个被称为“追风者”的群体。是的。关于他们真正令人难以置信的是，我需要和他们多聊聊，他们对技术非常精通，因为他们必须使用模型来预测风暴的位置。所以这是一种奇妙的结合，既要足够疯狂去进入风暴眼，又要为了保护你的生命并预测极端事件将发生在哪里，他们必须拥有越来越精密的 weather 模型。是的，这是一种美妙的平衡，既要像生物体一样身处其中，又要掌握最前沿的科学。所以他们实际上可能会使用 DeepMind 系统。所以那是...
德米斯: 是的，希望他们正在使用。而且我很想加入他们的追逐行动。它们看起来很棒，对吧？真正体验一次。
Lex: 没错。而且还能体验到正确的预测，知道某事将发生在哪里以及它将如何演变。这太不可思议了。是的。
通往AGI之路：定义、测试与挑战
Lex: 你估计我们将在2030年实现通用人工智能（AGI）。所以围绕这一点存在着有趣的问题。我们如何才能真正知道我们已经达到了目标？通用人工智能的第37步棋可能是什么？
德米斯: 我的估计是在未来五年内有大约50%的几率。所以，你知道，比如说，到2030年。所以我认为很有可能发生这种情况。其中一部分取决于你对通用人工智能的定义是什么？当然，人们现在正在争论这个问题。而我的标准一直很高，比如，我们能否匹配大脑所拥有的认知功能？所以我们知道我们的大脑几乎是通用的图灵机，近似的。当然，我们用我们的头脑创造了令人难以置信的现代文明。这也说明了大脑的普遍性。
为了知道我们是否拥有真正的人工通用智能（AGI），我们必须确保它拥有所有这些能力。它不是一种参差不齐的智能，在某些方面，比如今天的系统，它非常擅长，但在其他方面，它又存在缺陷。这就是我们目前通过今天的系统所拥有的。它们不一致。所以你会希望在各个方面都保持这种智能的一致性。然后我们还有一些缺失的能力，我认为，比如我们之前谈到的真正的发明能力和创造力。所以你会希望看到这些。
如何测试呢？我认为你只需要测试它。一种方法是对数以万计的人类可以做的认知任务进行某种程度的暴力测试，并且可能让世界顶尖的数百位专家，即各个学科领域的泰伦斯·陶，使用这个系统，看看他们是否能找到明显的缺陷，比如给他们一两个月的时间看看他们能不能找到。如果他们找不到，那么我认为你就可以相当自信地说我们拥有一个完全通用的系统。
Lex: 也许稍微反驳一下，似乎人类在所有领域都随着智力的提高而变得非常不可思议，以至于认为这是理所当然的。就像你提到的泰伦斯·陶，这些杰出的专家，他们可能会在短短几周内迅速将它能做的所有不可思议的事情视为理所当然，然后专注于“啊哈，就在那里”。你知道，首先，我认为自己是人类。我把自己定义为人类。你知道，有些人听我说话，他们会觉得，那家伙不擅长说话，结结巴巴的，你知道的。所以即使是人类，即使在数学和物理学等等领域之外，也有明显的跨领域局限性。我想知道是否需要像第37步这样的举动，从积极的方面来说，而不是像10000个认知任务的狂轰滥炸，在这10000个任务中，可能有一两个任务让人觉得，我的天，这太特别了。
德米斯: 没错，所以我认为既要进行全面测试，以确保一致性，也要关注像围棋37手那样的灯塔时刻。其中一个就是像爱因斯坦那样，提出关于物理学的新猜想或新假设。所以也许你可以非常严格地对它进行回溯测试，比如设置1900年的知识截止点，然后给系统提供1900年之前的所有文献，看看它是否能提出狭义相对论和广义相对论，对吧？就像爱因斯坦做的那样。那将会是一个有趣的测试。另一个是，它能否发明一种像围棋一样的游戏？ 不仅仅是提出围棋37手，一种新的策略，而是能否发明一种像围棋一样深刻、具有美感和优雅的游戏？这些是我会关注的事情，而且可能需要一个系统能够完成其中几件事，对吧，才能使其非常通用，而不仅仅局限于一个领域。所以我认为这些迹象，至少是我会寻找的迹象，表明我们拥有一个达到通用人工智能（AGI）水平的系统。然后也许为了完善它，你还会检查一致性，确保系统中也没有漏洞。
Lex: 是的，类似新的猜想或科学发现。那会是一种很酷的感觉。
德米斯: 是的，那会非常棒。所以它不仅仅是帮助我们做到这一点，而且实际上是在提出全新的东西。
Lex: 而你也会参与其中。这样的话，可能要在宣布之前两到三个月。而你只会坐在那里，努力不发推特。
德米斯: 诸如此类，没错。这就像，这个惊人的新物理学想法是什么？然后我们可能会与该领域的全球专家核实，对吧？并验证它，并仔细检查它的运作方式。我想这也包括解释它的运作方式。是的，那将是一个了不起的时刻。
Lex: 您是否担心我们人类，甚至是像您这样的专家，可能会错过它？
德米斯: 嗯，它可能非常复杂。所以可能是，我给出的类比是，我认为对于最优秀的人类科学家来说，它不会完全神秘，但可能有点像，例如，在国际象棋中，如果我和加里·卡斯帕罗夫或马格努斯·卡尔森交谈并和他们下棋，他们走了一步妙棋，我可能想不出那一步棋，但之后他们可以解释为什么那一步棋有意义。我们可以在某种程度上理解它。达不到他们的水平，但如果他们善于解释，这实际上也是智力的一部分，即能够用简单的方式解释你在想什么。我认为对于最优秀的人类科学家来说，这非常有可能。
Lex: 但我在想，也许您可以在围棋方面给我一些指导。我想知道，马格努斯或加里是否有某些棋步，他们起初会认为这是臭棋。
德米斯: 是啊，当然。有可能。但之后他们会凭直觉弄明白为什么这样有效。然后从经验上来说，游戏的好处之一是，游戏最棒的地方之一是你可以把它当作一种科学测试。你能赢得游戏吗？还是不能？然后它会告诉你，好吧，最终这一步走得很好。这个策略是好的。然后你可以回过头来分析它，甚至向自己更多地解释为什么，并围绕它进行探索。象棋分析和类似的事情就是这样运作的。所以也许这就是为什么我的大脑会这样运作，因为我从四岁起就开始这样做了。而且你接受过训练，从某种程度上来说，那是种硬核训练。
Lex: 但即使是现在，比如当我生成代码时，也会出现这种细微的、引人入胜的争论，我一开始可能会认为一组生成的代码在某些有趣的细微之处是不正确的。但我总是不得不问这个问题，这里面是否隐藏着更深层的见解，而实际上是我自己错了？随着系统变得越来越智能，你将不得不面对这个问题。这就像，什么，什么，你，这是你提出的一个漏洞还是一个特性？
德米斯: 是的，而且它们将会非常复杂，但当然，你可以想象也会有AI系统生成那些代码或其他什么。然后人类程序员会查看它，但也会借助AI工具的帮助。所以这将会是一种有趣的，你知道，也许不同的AI工具，和那些监控工具比起来，它们更像是生成工具。
Lex: 所以如果我们看一个AGI系统，抱歉又提起来了，但Alpha Evolve，超级酷。因此，Alpha Evolve 在编程方面实现了递归式自我改进之类的可能性。如果我们能想象那个通用人工智能系统，也许不是第一个版本，而是之后的几个版本，它实际上会是什么样子？你认为它会很简单吗？你认为它会像是简单的自我改进程序吗？
德米斯: 我的意思是，这有可能是可行的，我会这么说。我不确定这是否是人们所期望的，因为这有点像是硬起飞 （情景），但是像Alpha Evolve这样的当前系统，你知道，它们有人工参与来决定各种事情。它们是独立的混合系统，彼此交互。人们可以想象最终实现端到端。我不明白为什么这不可能，但现在，你知道，我认为这些系统还不够好，无法在提出代码架构方面做到这一点。
并且，它与提出新的推测性假设的想法有些重新连接。就像，如果你给他们关于你试图做什么的非常具体的指示，他们就做得很好，但是如果你给他们非常模糊的高级指示，目前这是行不通的。比如，我认为这与发明一款像围棋一样好的游戏有关，对吧？想象一下，这就是提示。这就太不明确了。所以我认为，目前的系统不知道该如何处理，如何将其缩小到可处理的范围。而且我认为也有类似的，比如，只是做一个更好的自己。这太不受约束了。
但是我们已经做到了，你知道，正如你所知，通过Alpha Evolve，比如更快的矩阵乘法。所以当你把它磨练成你想要的非常具体的东西时，它非常擅长逐步改进它。但目前，这些更像是渐进式的改进，有点像小的迭代。然而，你知道，如果你想要在理解上取得巨大的飞跃，你需要一个更大的进步。
Lex: 是的，但它也可能是为了反击硬着陆情景。它可能只是一系列渐进式的改进，比如矩阵乘法。就像它必须在那里坐几天，思考如何逐步改进一件事。并且它是以递归的方式进行的。并且随着你做越来越多的改进，你的速度会减慢。对。就像，就像通往通用人工智能的道路不会是，它会是随着时间的推移而逐渐改进。
德米斯: 是的。如果只是渐进式的改进，那它看起来就会是那样。所以问题是，它能否提出一个新的飞跃，就像Transformer架构？是的。就像，它能否在2017年做到这一点，你知道，当我们和Brain做到这一点时？并且这些系统，像Alpha Evolve这样的东西，是否能够做出如此大的飞跃，这一点尚不清楚。所以可以肯定的是，这些系统很好。我认为，我们拥有可以进行增量爬坡的系统。这就引出了一个更大的问题，那就是从现在开始，是否只需要这些就够了？或者我们是否真的需要一两个更大的突破？
Lex: 同样的系统也能提供突破吗？所以把它做成一堆S型曲线。比如渐进式改进，但也时不时地有飞跃。
德米斯: 是的。我认为没有人拥有可以明确展示这些巨大飞跃的系统。对吧？我们有很多系统可以进行你当前所处的S型曲线的爬坡。
Lex: 是的。那应该是第37步，是吗？
德米斯: 是的。我认为会是一个跳跃，类似那样的。
计算、能源与文明的未来
Lex: 你认为缩放定律在预训练、后训练、测试时间和计算方面都保持强劲吗？反过来说，你是否预计人工智能的进展会遇到瓶颈？
德米斯: 我们当然觉得在扩展方面还有很大的空间。所以实际上是所有步骤，预训练、后训练和推理时间。所以有三种扩展同时发生。我们再次强调，这取决于你有多大的创新能力。我们为自己拥有最广泛和最深入的研究团队而感到自豪。我们拥有杰出、令人难以置信的研究人员，比如诺姆·沙泽尔，他提出了Transformer模型，还有戴维·席尔瓦，他领导了AlphaGo项目等等。这种研究基础意味着，如果需要像AlphaGo或Transformer这样的新突破，我会支持我们成为实现突破的地方。
所以实际上我非常喜欢地形变得更加困难，对吧？因为这样它就更多地从单纯的工程转向真正的研究，或者研究加上工程。那是我们的优势所在。而且我认为这更难。发明东西比快速跟进更难。因此，我们不知道，我想说这有点像五五开，是否需要新的东西，或者扩展现有东西是否就足够了。所以以一种真正的经验主义的方式，我们正在尽可能地推动这两方面。全新的蓝天创意，也许我们大约一半的资源都投入在其中。然后扩展到最大限度，即当前的能力。
Lex: 我们仍然看到 Gemini 的每个不同版本都取得了令人惊叹的进展。你用深度储备来描述它的方式很有意思，如果通往 AGI（通用人工智能）的进展不仅仅是扩展计算能力，还包括问题的工程方面，并且更多地是科学方面，需要突破，那么你是否认为 DeepMind，或者说 Google DeepMind，也同样有能力在该领域大展拳脚。
德米斯: 嗯，我的意思是，如果你回顾过去十年或十五年的历史，也许，我不知道，支撑当今现代人工智能领域的 80%、90% 的突破最初都来自 Google Brain、Google Research 和 DeepMind。所以，是的，我希望并支持这种情况继续下去。
Lex: 那么在数据方面，您是否担心高质量数据，尤其是高质量的人类数据会耗尽？
德米斯: 我不太担心，部分原因是我认为有足够的数据，而且已经证明这些数据足以让系统变得相当好。这又回到了模拟。如果你有足够的数据来进行模拟，这样你就可以创建更多来自正确分布的合成数据。显然，这是关键。因此，你需要足够的真实世界数据，才能创建那些类型的数据生成器。我认为我们目前正处于那个阶段。
Lex: 是的，你在科学和生物学方面做了很多了不起的事情，用不多的数据做了很多。是的。我是说，数据仍然很多，但我猜足以起飞。
德米斯: 让它运转起来，没错。的确如此。
Lex: 计算规模的扩大对于构建AGI有多么关键？ 这是一个工程问题。这几乎是一个地缘政治问题，因为它也融入了供应链和能源，这是你非常关心的问题，即潜在的核聚变。也在能源方面进行创新。你认为我们会继续扩大计算规模吗？
德米斯: 我也这么认为。有几个原因。我认为计算方面，存在用于训练的计算量的问题。通常需要将它们放置在同一地点。所以实际上，即使是数据中心之间的带宽限制也会影响这一点。所以即使在那方面也有额外的限制。这对训练来说很重要，显然可以训练出最大的模型。而且，由于现在人工智能系统已应用于产品中，并被全球数十亿人使用，因此现在需要大量的推理计算。除此之外，还有思考系统，这是去年出现的新范式，即在测试时给予它们越长的推理时间，它们就会变得越聪明。
所以所有这些都需要大量的计算。我真的没看到这种趋势会放缓。随着人工智能系统变得更好，它们将变得更有用，对它们的需求也会更大。因此，无论是从训练方面来说，训练方面实际上只是其中的一部分，甚至可能成为总体计算需求中较小的一部分。
Lex: 是的，这有点像一个迷因梗，就像VEO3的成功和令人难以置信之处。人们会拿这个开玩笑，比如，它越成功，服务器就越辛苦。是的，完全正确。为了进行推理。
德米斯: 是的，是的，完全正确。我们做了一个小视频，关于服务器煎鸡蛋之类的，没错。我们必须想办法解决这个问题。我们有很多有趣的硬件创新要做。正如你所知，我们有自己的TPU产品线，并且正在研究诸如仅推理事物、仅推理芯片以及如何提高效率的问题。我们也非常有兴趣构建人工智能系统，并且已经在能源使用方面提供了帮助。例如，帮助数据中心节能，像冷却系统那样提高效率，优化电网，最终还有帮助等离子体约束聚变反应堆之类的事情。我们与联邦聚变公司在这方面做了很多工作，而且人们可以想象反应堆设计，我认为材料设计是最令人兴奋的。新型太阳能材料、太阳能电池板材料、超棒的室温超导体一直是我梦想突破和优化电池的清单上的项目。而且我认为，任何一个问题的解决方案都将对气候和能源使用产生绝对性的革命。而且我们可能已经接近了，并且在未来5年内将拥有能够切实帮助解决这些问题的人工智能系统。
Lex: 如果你要下注，很抱歉这个问题很荒谬，但在20、30、40年后，主要的能源来源会是什么？你认为会是核聚变吗？
德米斯: 我认为聚变和太阳能是我会押注的两种能源。太阳，我的意思是，当然，它是天空中的聚变反应堆。而且我认为真正的问题在于电池和传输。因此，除了更高效、越来越高效的太阳能材料之外，或许最终会在太空，类似于戴森球类型的想法。而聚变，我认为绝对是可行的，看起来，如果我们有正确设计的反应堆，并且能够足够快地控制等离子体等等。而且我认为这两件事实际上都会得到解决。所以我们可能至少会拥有，那些可能是可再生、清洁、几乎免费，或者可能免费能源的两个主要来源。
Lex: 真是个美好的时代。如果我与你一起穿越到100年后的未来，如果我们已经超越了1型卡尔达肖夫文明，你会感到多么惊讶？
德米斯: 如果从现在开始有大约100年的时间尺度，我不会感到那么惊讶。我的意思是，我认为很明显，如果我们以我们刚才讨论的其中一种方式解决了能源问题，即聚变或非常高效的太阳能，那么如果能源是某种程度上免费、可再生且清洁的，那么这将解决一大堆其他问题。举例来说，用水问题就消失了，因为你可以直接使用海水淡化。我们有这项技术，只是太贵了。所以只有像新加坡和以色列等相当富裕的国家才会实际使用它。但如果它很便宜，那么所有有海岸线的国家都可以使用。而且你还会拥有无限的火箭燃料。你可以用能量将海水分离成氢和氧，那就是火箭燃料。再加上埃隆令人惊叹的自着陆火箭，那就可能像太空巴士服务一样。这就开启了令人难以置信的新资源和领域。我认为小行星采矿将会成为现实，并将人类的繁荣推向星辰。这也是我梦想的，就像卡尔·萨根的那种将意识带到宇宙，唤醒宇宙的想法。而且我认为如果我们正确地使用人工智能并解决它带来的一些问题，人类文明将在完整的时间意义上做到这一点。
Lex: 是的，我想知道，如果你只是一个在太空中飞行的游客，那会是什么样子，你可能会注意到地球，因为如果你解决了能源问题，你可能会看到很多太空火箭。所以这就像伦敦的交通一样，只是在太空中，有很多火箭。然后你可能会看到漂浮在太空中的某种能源，比如太阳能。所以地球表面看起来会更加科技化。然后你将利用这种能量的力量来保护自然，比如热带雨林和所有类似的东西。
德米斯: 因为在人类历史上，我们第一次不会受到资源限制。而且我认为那可能是人类一个了不起的新时代，不再是零和博弈，对吧？我拥有这片土地，而你没有。或者如果老虎拥有它们的森林，那么当地村民就不能，他们该怎么办？我认为这会有很大帮助。不，它不会解决所有问题，因为仍然存在其他人类弱点，但至少会消除一个，我认为是其中一个主要因素，即资源的稀缺，包括土地和更多的材料和能源。我们应该像一些人所说的那样，进入另一种关于这种彻底富足时代的学派，在这个时代里有充足的资源可以分配。当然，下一个大问题是确保公平分配，并且社会中的每个人都能从中受益。
人性的游戏：冲突、意义与合作
Lex: 所以关于人性，我总觉得，就像《波拉特》里一样，像我的邻居，就像你挑起事端，我们确实会引发冲突。这就是为什么游戏一直以来，正如我实际上越来越多地了解到的那样，即使在古代历史上，也起到了使人们远离战争，实际上是热战的目的。所以也许我们可以设计出越来越复杂的电子游戏，来满足我们的那种冲动，那种类似于冲突的渴望，无论那是什么关于我们，关于人性的东西，然后避免实际的热战，因为随着日益精密的技术，我们早已过了我们所能创造的武器实际上可以摧毁所有人类文明的阶段。所以，再也不能用与邻居开战的方式来挑起事端了。最好是下盘棋。
德米斯: 或者踢足球。或者足球，是的。我认为这就是我的现代运动。我喜欢足球，喜欢观看。我只是觉得，而且我过去也经常踢足球。它非常发自内心，而且具有部落性。我认为它确实将很多能量导入到一个，我认为这是一种人类需要归属于某个群体的需求。但是进入一个有趣的方式，一个健康的方式，和一个非破坏性的方式，一种建设性的事物。
而且我认为再次回到游戏，我认为最初它们之所以如此伟大，比如让孩子们玩象棋，是因为它们是很好的小规模世界模拟。它们也是世界的模拟。它们是某些现实世界情况的简化版本，无论是扑克、围棋还是象棋，现实世界的不同方面或者外交的不同方面。它也允许你练习这些。而且，你知道，你一生中有多少次机会练习一个重大的决策时刻？你知道，该选择什么工作？该去哪所大学？你知道，你也许会，我不知道，一个人大概需要做出十几个左右的关键决定。而且你必须尽可能地把这些决定做好。游戏是一种安全的环境，可重复的环境，在那里你可以提高你的决策过程。并且它可能还有这个额外的好处，可以将一些精力引导到更具创造性和建设性的追求中。
Lex: 嗯，我认为练习失败和获胜也非常重要。对。比如失败真的是，你知道，这就是为什么我喜欢游戏。这就是为什么我喜欢巴西柔术之类的东西，在那里你可以在安全的环境中一次又一次地被打败。它提醒你关于方式、关于物理学、关于世界运作的方式，关于有时你输，有时你赢。你仍然可以和每个人成为朋友。是的。那种失败的感觉。我的意思是，对于我们人类来说，真正理解它是一件很奇怪的事情。就像那是生活的一部分。失败是生活的一个基本组成部分。
德米斯: 是的。而且我认为在武术中，正如我所理解的那样，但在像轻量级国际象棋这样的事情中，至少我所理解的方式是，它与自我提升、自我认知有很多关系，你知道，好吧。所以我做了这件事。这与真正超越另一个人无关。这是关于最大化你自己的潜力。如果你以一种健康的方式去做，你就会学会如何利用胜利和失败。不要被胜利冲昏头脑，认为你就是世界上最棒的。失败让你保持谦逊，并且始终明白总有更多东西需要学习。总有更资深的专家可以指导你。你知道，我想你会学到这些。我很确定在武术中是这样。我认为这也是至少我接受国际象棋训练的方式。因此，以同样的方式，它可以非常硬核，非常重要。当然，你想要赢，但你也需要学习如何以一种健康的方式处理挫折，并将你失去某些东西时的那种感觉转化为建设性的东西，例如下次我要改进这一点，对吧？或者在这方面做得更好。
Lex: 有些东西是幸福的源泉，是意义的源泉，它改进了这种状况。这与输赢无关。
德米斯: 是的，精通。在某种程度上，没有什么比“哇，这件我以前做不到的事情”更令人满足的了。现在我可以了。再次，游戏、体育运动和脑力运动都是衡量的方式。它们很棒，因为你可以衡量这种进步。
Lex: 是的。我的意思是，有些东西，我想这就是我喜欢角色扮演游戏的原因，比如技能树上的数字在增长。就像字面意义上那样，那是我们人类意义的来源。
德米斯: 无论我们如何——是的，我们非常沉迷于这种，是的，这些数字不断增长，也许这就是我们制作此类游戏的原因，因为很明显，这是我们自己也在进行爬山算法的系统，对吧？
Lex: 是的，如果我们没有任何机制，那将是非常可悲的。彩色腰带，我们到处都这么做，对吧？在那里我们只是拥有这样一件很棒的事情。而且我不想否定这一点。那是我们人类深刻意义的来源。