领导力与创新：重塑谷歌AI
Lex: 所以在商业和领导力方面，最令人难以置信的故事之一是谷歌过去一年所做的事情。所以我认为可以公平地说，一年前，谷歌在LLM产品方面因Gemini 1.5而失利，而现在凭借Gemini 2.5而获胜，你掌舵并领导了这项工作。在一年之内，从所谓的“失败”到所谓的“获胜”，需要付出什么？
德米斯: 是的，首先，我们的团队绝对是令人难以置信的，你知道，由科里、杰夫·迪恩和奥里尔以及我们在 Gemini 上的出色团队领导。绝对是世界一流的。所以，没有最优秀的人才，你做不到。当然，你知道，我们也有大量的强大计算能力，但更重要的是我们创造的研究文化，对吧？基本上是将谷歌的不同团队聚集在一起，你知道，有世界一流的谷歌大脑团队，然后是之前的 DeepMind，汇集所有最优秀的人才和最佳的想法，齐心协力打造我们所能做到的最伟大的系统。
这很困难，但我们都非常有竞争力，而且，你知道，我们热爱研究。做这件事太有趣了。而且，你知道，很高兴看到我们的发展轨迹。这并非理所当然，但我们对我们目前所处的位置以及进步的速度感到非常满意，这是最重要的事情。所以，如果你看看我们从两年前到现在，再到一年前到现在的发展历程，你知道，我认为我们的，我们称之为“沿着持续不断的进步方向持续交付”的做法非常成功。而且，你知道，整个领域，整个 AI 领域，竞争异常激烈，世界上一些最伟大的企业家、领导者和公司都在参与竞争，因为每个人都意识到 AI 有多么重要。而且看到这种进步，我们感到非常高兴。
Lex: 你知道，谷歌是一家庞大的公司。你能谈谈在这种情况下自然发生的事情吗，比如出现的官僚主义。比如，你想要小心，你知道，就像那种自然的，会有会议，会有经理，像这样，从领导力的角度来看，突破这些挑战是什么，以便像你说的，交付，就像过去一年交付的与Gemini相关的产品数量简直是疯了。
德米斯: 对，确实是。是的，没错。这就是坚持不懈的样子。我认为这是一个问题，就像任何大公司一样，最终都会有很多管理层级之类的事情，这在某种程度上是其运作方式的本质。但我仍然以创业公司的状态运营，我一直以老DeepMind作为一家创业公司来运营。规模很大，但仍然是一家创业公司。这也是我们今天仍然像对待谷歌DeepMind那样行事的方式，以果断的决心和从最佳小型组织中获得的活力行事。
我们试图兼得两全，既拥有数十亿用户、界面和令人难以置信的产品，我们可以用人工智能和我们的研究来增强它们。这太棒了。而且你知道，世界上很少有地方能让你一方面进行令人难以置信的世界级研究，另一方面又能将其应用并改善数十亿人的生活。这真是一个了不起的结合。我们不断地奋斗并削减官僚主义，以允许研究文化和坚持不懈的交付文化蓬勃发展。我认为我们已经取得了相当好的平衡，同时对此负责，你知道，作为一个大公司，你必须这样做，而且拥有大量的、你知道的、巨大的产品界面。
Lex: 所以你说的关于十亿级用户界面的事情很有趣，我和一位名叫欧文·芬克尔的家伙聊过，他是大英博物馆一位杰出的家伙。他是楔形文字的世界级专家，楔形文字是古代写在泥板上的文字。他不了解ChatGPT或Gemini。他甚至不认识任何人工智能，但他第一次接触到人工智能是在谷歌上的AI模式。是的。他说，这就是你所说的这种人工智能模式吗？然后，你知道，这只是提醒我们，世界上还有很大一部分人并不了解人工智能这件事。
德米斯: 是的，我知道这很滑稽。因为如果你生活在X和Twitter上，我的意思是，至少在我的订阅源里，全部都是人工智能。而且在某些地方，你知道，在硅谷和某些区域，每个人都在思考人工智能。但是很多普通人还没有接触过它。
Lex: 但是他们的第一次互动肩负着重大的责任。是的。广阔的印度农村或世界任何地方的规模。对，对。
德米斯: 我们希望它尽可能好。在很多情况下，它只是在后台驱动，使地图或搜索等功能运行得更好。理想情况下，对很多人来说，这应该是无缝衔接的。这只是一种新技术，它让他们的生活更有成效，并帮助他们。
Lex: Gemini产品和工程团队中的很多人都对你的另一个维度评价很高，这几乎出乎我的意料。因为我有点把你当作深奥的科学家，关心这些重大的研究科学问题。但他们也说你是个很棒的产品人，比如如何创造一款很多人会使用并乐于使用的产品。那么你能谈谈创造一款很多人会乐于使用的基于人工智能的产品需要什么吗？
德米斯: 是的，嗯，我的意思是，这又回到了我游戏设计的日子，那时我过去为数百万游戏玩家设计游戏。人们会忘记这一点。我在产品中使用尖端技术方面有经验。这就是九十年代游戏的样子。所以我真的很喜欢尖端研究与产品应用以及为全新体验提供支持的结合。因此，我认为这实际上是同一种技能，即设身处地地想象使用它的感受，并且如先前所说，拥有良好的品味。我认为，在科学中有用的东西，在产品设计中也同样有用。
我一直是一个跨领域的人。所以我真的看不到艺术和科学、产品和研究之间的界限。对我来说，这是一个连续统一体。我的意思是，我只从事尖端产品的研发，我喜欢这样做。我需要引擎盖下的尖端技术。如果它们只是普通的常规产品，我就不会对它们感到兴奋。因此，这需要发明创造能力。
人机交互的未来：从聊天框到心灵感应
Lex: 当您在LLM方面与Gemini互动时，您具体学到了一些什么？比如，您觉得布局、界面、或者延迟之间的权衡，例如如何呈现给用户，等待多久，以及如何展示这种等待，或者推理能力。这里有一些有趣的东西，因为就像你说的，它非常前沿。我们不知道如何正确地呈现它。那么你学到了一些具体的东西吗？
德米斯: 我的意思是，这是一个快速发展的领域。我们一直在评估这些，但我们目前的观点是，你想要不断地简化事物，无论是界面还是你在模型之上构建的东西。你想摆脱模型的束缚。模型列车正沿着轨道驶来，而且正在以令人难以置信的速度改进。我们之前谈到的这种 relentless 进步，你看看 2.5 版本与 1.5 版本，这简直是一个巨大的改进。而且我们期望未来版本也能如此。因此，这些模型正变得更加强大。
所以，在当今世界，关于AI优先产品的设计空间，有趣之处在于，你所设计的不是针对该事物今天能做什么，或者今天的技术能做什么，而是针对一年后。所以你实际上必须是一个非常懂技术的产品人员，因为你必须对以下情况有很好的直觉和感觉：好的，我现在梦想的东西今天无法实现，但研究路线图是否按计划在六个月或一年内基本实现这一目标？因此，你必须掌握这项高度变化的技术的发展方向，以及不断涌现的新功能，你以前没有意识到这些新功能，但它们可以使深度研究发挥作用，或者现在我们有了视频生成，我们该如何利用它？
这个多模态的东西，我有一个问题是，它真的会是我们今天拥有的当前用户界面吗？一旦你考虑到这些超级多模态系统，这些文本框聊天似乎不太可能，它不应该更像是《少数派报告》中的东西，你在某种协作方式中与之产生共鸣，对吗？今天看来非常受限制。我认为我们回顾今天的界面、产品和系统，可能会觉得它们在短短几年内就相当过时了。所以我认为在产品方面以及研究方面实际上都有很大的创新空间。
Lex: 然后我们在私下讨论这个键盘的问题，未决的问题是，我们会在何时、以何种程度转向以音频作为与周围机器交互的主要方式，而不是打字？
德米斯: 是的，我的意思是，即使你打字速度很快，打字也是一种带宽非常低的交互方式。我认为我们将不得不开始利用其他设备，无论是智能眼镜、音频、耳塞，最终可能是一些神经设备，以便我们可以将输入和输出带宽提高到现在的100倍。
Lex: 我认为被低估的艺术形式是界面设计。但我认为，如果没有合适的界面，你就无法释放一个系统的智能力量。界面实际上是你释放其力量的方式。如何做到这一点是一个非常有趣的问题。你会认为不碍事才是真正的艺术形式。
德米斯: 是的，这有点像我想史蒂夫·乔布斯总是谈论的那样，对吧？我们想要的是简洁、美观和优雅，对吧？而且我们还没到那一步，依我之见，还没人达到那一步。这就是我希望我们达到的目标。再次，这有点像再次出发，对吧？作为一款游戏，最优雅、最精美的游戏。你能做出一个像那样的精美界面吗？实际上，我认为我们将进入一个由人工智能生成的界面时代，这些界面可能是为你量身定制的。因此，它符合你的方式、你的审美、你的感觉以及你的大脑运作方式。人工智能会根据任务来生成这些，你知道，感觉这可能就是我们将要发展的方向。
Lex: 是的，因为有些人是高级用户，他们希望屏幕上显示每一个参数，一切都基于此，比如我，使用基于键盘的导航。我希望一切都有快捷方式。而且有些人喜欢极简主义。只是隐藏所有这些复杂性，是的，没错。嗯，我很高兴你也有史蒂夫·乔布斯模式，这太棒了。爱因斯坦模式，史蒂夫·乔布斯模式。
AGI竞赛与全球合作
Lex: 好了，让我试着引诱你回答一个问题。Gemini 3 什么时候发布？它是在 DTS 6 之前还是之后？世界都在等待这两者。从 2.5 到 3.0 需要什么？因为似乎已经发布了很多 2.5 的版本，它们在性能上已经有了飞跃。那么，升级到新版本到底意味着什么呢？是关于性能吗？还是关于一种完全不同的体验？
德米斯: 是的，嗯，所以我们不同的版本号运作方式是，我们，你知道，我们尝试收集，所以可能需要，你知道，大约6个月或类似的时间来完成一次新的完整运行和新版本的完整产品化。在此期间，会出现许多新的有趣的研究迭代和想法。我们将它们收集在一起，你知道，你可以想象过去6个月在架构方面产生的所有有趣的想法。也许是在数据方面，就像许多不同的可能性。我们收集这些，将其打包在一起，测试哪些可能对下一次迭代有用，然后将所有这些捆绑在一起。然后我们开始新的，你知道，巨大的英雄训练运行，对吧？然后当然会对其进行监控。
然后在预训练结束时，还有所有的后训练，有很多不同的方法可以做到这一点，不同的修补方法。所以那里有一个完整的实验阶段，你也可以从中获得很多收益。这就是你通常看到的版本号指的是基础模型，预训练模型的地方。然后是2.5的中间版本，你知道，以及不同的尺寸和不同的小补充，它们通常是补丁或后训练的想法，可以在相同的基本架构上之后完成。当然，最重要的是，我们还有不同的尺寸，Pro和Flash以及Flashlight，它们通常是从最大的那些中提炼出来的，你知道，Flash模型来自Pro模型。这意味着如果我们是开发者，我们有一系列不同的选择，你想优先考虑性能还是速度，对吧？还有成本。我们喜欢把这看作是帕累托前沿，你知道，一方面，Y轴是，你知道，像性能一样，然后X轴是，你知道，成本或延迟和速度，基本上。我们有完全定义前沿的模型。所以无论你作为个人用户或开发者想要什么样的权衡，你都应该找到一个我们的模型来满足这个约束。
Lex: 所以在转移性改变的背后，有一场大型的英雄行动。是的。然后就是产品化过程中疯狂的复杂性。然后是对沿着帕累托前沿不同规模的提炼。然后随着你采取的每一步，你意识到可能会有一个很棒的产品。还有支线任务。
德米斯: 是的，完全正确。
Lex: 但是，而且你也不想接受太多的支线任务，因为那样你就会有一百万个版本的一百万个产品。是的， .这非常不清楚，但你也会超级兴奋，因为它超级酷。比如怎么会，你看VEO，非常酷。它如何融入更大的事物中？
德米斯: 没错，没错。然后你不断地进行这个向上游收敛的过程，我们称之为，你知道，来自产品表面的想法，或者来自训练后，甚至更下游的想法，你将这些向上游输送到核心模型训练中，用于下一次运行，对吧？这样，主模型，主要的 Gemini 轨道变得越来越通用。
Lex: 最终，你知道，通用人工智能。一次一次的英雄运行。
德米斯: 是的，没错。几次英雄运行之后。
Lex: 是的。所以有时当你发布这些新版本，或者实际上是每个版本时，基准测试对于展示模型的性能是有益的还是适得其反的？
德米斯: 你需要它们。我敢打赌，重要的是你不要过度拟合它们。对吧？所以不应该有一个一劳永逸的结局。于是就有了LM竞技场，或者过去被称为Alemsis。那是其中之一，它以一种有机的方式成为了人们测试这些系统（至少是聊天机器人）的主要方式之一。显然，有大量的学术基准，用于测试数学和编码能力、通用语言能力、科学能力等等。然后我们有我们自己关心的内部基准。这是一种多目标，你知道的，优化问题，对吧？你不想只擅长一件事。我们正试图构建在各个方面都表现良好的通用系统。
而且你试图做出不会后悔的改进。比如你在编码方面有所提高，但它不会降低你在其他领域的表现。对吧？这就是困难的部分，因为你当然可以投入更多的编码数据，或者你可以投入更多的，我不知道，游戏数据，但这样做会不会让你的语言系统或翻译系统以及你关心的其他方面变得更糟？所以你必须不断地监控这套越来越庞大的基准测试。而且，当你把这些模型应用到产品中时，你也会关心直接的使用情况、直接的统计数据以及你从最终用户那里获得的信号，无论是程序员还是使用聊天界面的普通人。
Lex: 是的，因为最终你想衡量其有用性，但很难将其转化为一个数字。对。这实际上是基于大量用户的氛围型基准测试，很难知道。对我来说，拥有一个更聪明的模型，但它只是某种基于氛围的东西，这将是令人恐惧的。它不太管用。这太可怕了，而且你刚才说的一切，它必须在如此多的领域都既聪明又有用。所以你会非常兴奋，因为它突然解决了你以前从未解决过的编程问题，但现在它却写出糟糕的诗歌之类的东西。我不知道，这是一种压力，这种平衡太难把握了。而且因为你不能真正信任基准测试，所以你真的必须信任最终用户。
德米斯: 然后，其他更深奥的东西也会发挥作用，比如，你知道的，系统的角色风格，你知道的，它是冗长的吗？它是简洁的吗？它是幽默的吗？你知道，不同的人喜欢不同的东西。所以，你知道，这非常有趣。这几乎就像心理学研究或人格研究的前沿部分。你知道，我过去在我的博士研究中做过这个，比如五因素人格。我们实际上希望我们的系统是什么样的？不同的人也会喜欢不同的东西。所以这些都是产品领域中一些新的问题，我认为以前从未真正被解决过，但我们现在将不得不迅速处理。
Lex: 我认为这是一个超级迷人的领域，发展事物的特性。这样做，也如同在照镜子观己。我们喜欢哪些事物？因为提示词工程允许你控制很多这些元素，但是产品能否让你更容易地控制这些体验的不同风味，以及你与之互动的不同角色？
德米斯: 是的，完全正确。
Lex: 那么谷歌DeepMind获胜的概率是多少？
德米斯: 嗯，我不认为这是某种获胜。我的意思是，考虑到我们正在构建的东西是如此重要和意义重大，我认为用“获胜”来衡量是错误的方式。很有趣的是，我尽量不把它看作一场游戏或竞赛，即使这在很大程度上是我的心态。在我看来，重要的是，我们所有人，那些处于领先地位的人，都有责任管理这项令人难以置信的技术，它既可以用于令人难以置信的善事，但也存在风险，为了人类的利益，安全地将其引入世界。那一直是我梦寐以求的，也是我们一直努力去做的。我希望最终社群，或许是国际社群，能够团结起来，当越来越接近通用人工智能(AGI)时，人们会明显地意识到这是必需的。
Lex: 我同意你的观点。我认为你说得非常好。你曾说过你与其中一些实验室的负责人交谈甚欢，关系良好。随着竞争的加剧，维持这些关系有多难？
德米斯: 到目前为止还算可以。我一直以善于合作为荣。我是一个具有合作精神的人。研究是一项合作的事业。科学是一项合作事业，对吧？如果你治愈了可怕的疾病，并且提出了一个令人难以置信的疗法，那么最终一切都对人类有好处。这对人类来说是净胜。能源也是如此，所有我感兴趣的用人工智能帮助解决的问题。所以我只是希望这项技术存在于世上，并被用于正确的事情。以及由此带来的好处，这种生产力上的好处应该被分享，以造福所有人。
所以我努力与所有领先实验室的人保持良好的关系。他们中的许多人都有非常有趣的性格，正如你可能预料到的那样。但是，是的，我与他们几乎所有人都保持着良好的关系，我希望如此。而且我认为，当情况变得比现在更加严重时，保持这些沟通渠道将会非常重要。如果需要合作或协作，尤其是在安全等方面，这将有助于促进合作或协作。
Lex: 是的，我希望在一些风险较低的事情上能有一些合作。这样做也可以作为一种维持友谊和关系的机制。所以举例来说，我认为如果你和埃隆能在合作开发一个视频游戏上有所合作，互联网会很喜欢，诸如此类的事情。我认为这能促进良好关系下的友情。而且你们两个都是真正的游戏玩家，所以创造一些东西会很有趣。
德米斯: 是的，那太棒了。我们过去也谈论过这件事，这可能是我们可以做的一件很酷的事情。我同意你的看法，如果能有一些副业项目，从而让人能够专注于合作方面，那就太好了。这对双方来说都是双赢的。这也有助于建立那种协作能力。
Lex: 我将科学事业视为人类的那种副业项目。我认为谷歌DeepMind一直在大力推动这一点。我很希望看到其他实验室做更多的科学研究，然后进行合作，因为在重大的科学问题上进行合作似乎更容易。
德米斯: 我同意，我很希望看到很多人，很多其他的实验室谈论科学，但我认为我们是唯一一个将其用于科学并做到这一点的。这就是为什么像AlphaFold这样的项目对我来说如此重要。而且我认为我们的使命是展示如何以一种非常具体的方式，清晰地利用人工智能来造福人类。此外，我们还从AlphaFold中衍生出了像Isomorphic这样的公司来进行药物发现。目前进展顺利，并且正在构建某种可以被认为是构建额外的AlphaFold类型系统，以进入化学领域，帮助加速药物设计的东西。我认为我们需要展示的例子，以及社会需要理解的是，人工智能可以在哪些方面带来巨大的好处。
人性的特殊性与意识之谜
Lex: 发自内心，感谢您以严谨、乐趣和谦逊的态度推动科学事业的发展，感谢所有的一切。我就是喜欢看到这种景象。还在讨论P等于NP，我的意思是，这太不可思议了。所以我喜欢这样。似乎一直存在一场人才争夺战。有些只是梗，我不知道。你怎么看待Meta用巨额薪水收购人才，以及这场人才争夺战愈演愈烈？我应该说，我认为很多人都将DeepMind视为一个进行前沿研究的绝佳场所，原因正如你所概述的那样。比如，这里有充满活力的科学文化。
德米斯: 是的，好吧，你看，当然，Meta现在正在采取一种策略。我认为，至少从我的角度来看，那些真正相信通用人工智能使命及其作用的人，并且理解由此产生的真正后果，无论是好的还是坏的，以及这种责任所包含的意义。我认为他们这样做主要是为了像我一样，站在研究的前沿。这样他们就可以帮助影响研究的方向，并安全地将这项技术引入世界。而Meta目前并不在前沿。或许他们能设法重回前沿。从他们的角度来看，他们这样做可能是合理的，因为他们落后了，需要做些什么。
但我认为还有比金钱更重要的东西。当然，必须按照市场价格支付员工工资，所有这些事情，而且还在持续上涨。但正如，我预料到这一点，因为越来越多的人终于意识到，公司领导者，我30多年来一直都知道的事情，那就是通用人工智能（AGI）可能是将要被发明的最重要的技术。所以从某种意义上说，这样做是合理的。但我也认为存在一个更大的问题。我的意思是，现在人工智能领域的人们薪水非常高。我记得2010年我们刚起步的时候，有几年我甚至没给自己发工资，因为钱不够。我们没法筹集到任何资金。而现在，实习生的工资相当于我们最初种子轮融资的全部金额。所以这很有趣。我还记得那些日子，我过去不得不免费工作，甚至几乎要自己掏钱去做实习，对吧？现在一切都反过来了，但这就是现状。这是新的世界。
而且，我认为我们一直在讨论像通用人工智能（AGI）之后会发生什么，以及能源系统得到解决等等。金钱又会意味着什么呢？所以我认为，你知道，在经济方面，我们将会有更大的问题需要解决，以及在这种世界里经济和公司如何运作？所以我认为，你知道，今天谈论薪水之类的事情有点像是次要问题。
Lex: 是的，当你面对如此巨大的后果和巨大而引人入胜的科学问题时。
德米斯: 这可能只有几年时间了，所以。
Lex: 所以从实际的、务实的角度来看，如果我们聚焦于工作，我们可以看看程序员，因为人工智能系统目前在编程方面做得非常出色，而且越来越出色。所以很多靠编程为生并热爱编程的人担心他们会失去工作。你认为他们应该有多担心？以及以何种正确的方式来适应新的现实，并确保你作为人类在编程世界中生存和繁荣？
德米斯: 嗯，有趣的是，编程，再次，这与我们几年前的想法相反，也许我们认为的一些更难的技能，由于各种原因，结果可能更容易。但是，你知道，编码和数学，因为你可以创建大量的合成数据，并验证这些数据是否正确。因此，由于这种性质，更容易制作诸如合成数据之类的事物来进行训练。当然，这也是我们都感兴趣的领域，因为作为程序员，它能帮助我们更快、更高效地工作。
所以我认为在下一个时代，比如未来的5到10年，我们会发现那些拥抱这些技术，并几乎与它们融为一体的人，无论是在创意产业还是技术产业，都会变得具有超人的生产力，我认为。所以优秀的程序员将会变得更加优秀，甚至比他们今天还要优秀10倍。因为在那里，你将能够利用他们的技能，最大限度地利用这些工具，最大限度地发挥它们的作用。所以我认为这就是我们将在下一个领域看到的情况。
所以这会引起相当大的变化，对吧？所以那即将到来。很多人会从中受益。所以我认为这方面的一个例子是，如果编程变得更容易，那么更多的创意人员就可以更容易地进行创作。但我认为，顶尖的程序员仍然会拥有巨大的优势，例如在规范方面，回到规范架构应该是什么，问题应该是如何以一种有用的方式指导这些编码助手，检查他们生成的代码是否良好。所以我认为在可预见的未来几年里，还有很大的发展空间。
Lex: 所以我认为这里面有几个有趣的事情。一是必须不断地、持续地改进这些工具的使用。所以他们是在借助不断改进的模型，而不是与它们竞争。但可悲的是，这就是地球上生命的本质。在某些前沿的编程领域可能存在巨大的价值，而在其他领域则价值较低。例如，前端网页设计可能更容易，正如你提到的，通过人工智能系统生成。也许，例如，游戏引擎设计或类似的东西，或后端设计，或在高性能情况下指导系统，高性能编程类型的设计决策，这可能非常有价值。但这将改变人类最需要的领域，这对人们来说是可怕的调整。
德米斯: 我认为那是对的。任何时候，只要有大量的颠覆和变化，你知道，我们已经经历过这种情况，不仅仅是这一次，我们在人类历史上经历过很多次，比如互联网、移动设备，但在那之前是工业革命。这将是充满变革的时代之一。我认为会出现我们今天甚至无法想象的新工作，就像互联网创造的一样。然后，那些拥有正确技能组合来驾驭这股浪潮的人将变得非常有价值，对吧，那些技能。但也许人们将不得不重新学习或稍微调整他们目前的技能。
这次更难应对的是，我认为我们将看到的影响可能相当于工业革命的10倍，但速度也快了10倍，对吧？所以不是100年，而是10年。这就会使它，你知道，就像影响和速度加起来是100倍。所以 我认为这会使社会更难应对。这里有很多需要思考的东西。我认为我们现在就需要讨论这些。我鼓励世界顶级的经济学家和哲学家开始思考，社会将如何受到这方面的影响，以及我们应该怎么做，包括诸如普遍基本供应之类的措施，即把大部分提高的生产力分享和分配给社会，也许以服务和其他形式，如果你想要更多，你仍然可以去获取一些非常稀有的技能等等，让自己变得独一无二。但会提供一种基本的供应。
Lex: 如果你把政府看作一种技术，那么就会出现一些有趣的问题，不仅仅是经济方面，还有政治方面。你如何设计一个能够应对快速变化的时代，从而代表不同群体的人们所感受到的不同痛苦的系统？你又该如何以一种能够解决这些痛苦，并代表不同人群的希望、痛苦和恐惧，同时又不会导致分裂的方式重新分配资源？因为政客们通常非常擅长煽动分裂，并利用这一点来赢得选举。另一种是定义“他者”，然后说“他者”是坏的。基于此，我认为这通常不利于利用快速变化的技术来帮助世界繁荣发展。所以如果我们将政治体系视为一种技术，我们也几乎需要迅速改进我们的政治体系。
德米斯: 当然，我认为我们需要新的治理结构，可能还需要新的机构来帮助完成这种转变。所以我认为政治哲学和政治学将是其中的关键。但我认为最重要的事情，首先是要创造更多的资源，对吧？然后是，所以这是最重要的事情，提高生产力，获取更多资源，也许最终摆脱零和博弈的局面。那么第二个问题是如何使用这些资源以及分配这些资源。但是，是的，如果没有首先拥有这种富足，你就无法做到这一点。
Lex: 你向我提到了本杰明·利贝图的《狂人》这本书，一本关于你，首先是关于你的书，有一本关于你的传记。奇怪，是的。不清楚，是的，当然。目前尚不清楚有多少是虚构，有多少是现实。但我认为约翰·冯·诺伊曼这个中心人物，我不得不说，是对疯狂和天才的一种令人难忘且优美的探索。且让我们说说发现的双刃剑。
对于不了解的人，约翰·冯·诺伊曼是一位极具传奇色彩的人物。他为量子力学做出了贡献。他曾参与曼哈顿计划。他被广泛认为是现代计算机和人工智能之父，或是在此领域做出了开创性贡献的人，等等。所以正如许多人所说，他是有史以来最聪明的人之一，这太令人着迷了。同样令人着迷的是，作为一个见证了核科学和物理学演变成原子弹的人，因此他得以亲眼目睹了想法变成对世界产生巨大影响的事物，他也预见到了计算领域也会发生同样的事情。这就是这本书中，再次出现的，一些美好而又令人难忘的方面。然后向前迈进一步，看看这件事，至少从某种程度上来说，AlphaGo、AlphaZero的重大时刻，也许约翰·冯·诺伊曼的思想被带入了现实。所以我想问题是，如果你现在能和约翰·冯·诺伊曼一起闲逛，你认为他会对正在发生的事情说些什么？
德米斯: 嗯，那将会是一次很棒的经历。你知道，他是一个了不起的人。而且我也很喜欢他在普林斯顿高等研究院度过大量时间的方式，那是一个非常适合思考的特别的地方。他在众多他帮助发明的事物中所展现出的博学令人惊叹，当然，这包括所有现代计算机都基于的冯·诺伊曼架构。而且他有惊人的远见。我想他会喜欢我们今天的成就，而且他会，我想他会非常喜欢AlphaGo，你知道，他还研究过博弈论。我认为他预见了很多关于学习机器系统将会发生的事情，这些系统是成长起来的，我认为他称之为成长，而不是被编程出来的。我不确定他会有多惊讶，也许他甚至不会感到惊讶，因为这是我认为他在20世纪50年代就已经预见到的成果。我想知道他会给出什么建议。
Lex: 他有机会在曼哈顿计划中亲眼见证原子弹的建造。我相信那里有很多有趣的事情可能没有被充分谈论，也许是一些官僚主义方面，也许是政治家的影响，也许是没有充分地拿起电话与那些被政治家称为敌人的人交谈。也许存在着某种深刻的智慧，而我们实际上可能已经从那个时代失去了。
德米斯: 是的，我确信有。我的意思是，我也读过很多那个时代的书，编年史时代，也了解了一些参与其中的杰出人士，但我同意你的观点。我认为也许需要更多的对话和理解。我希望我们能从那些时代中学习。我认为这里的区别在于人工智能有很多用途，它是一种多用途技术。显然，我们正在努力做一些事情，比如解决所有疾病，帮助解决能源和稀缺问题，这些都是令人难以置信的事情。这就是我们所有人，包括我自己，在30多年前开始这段旅程的原因。但当然，也存在风险。而且可能冯·诺伊曼也预见到了这两点，我猜是这样。我认为他好像说过，我想他对他的妻子说过，电脑在世界上的影响会更大。正如我们刚才讨论的，我认为这是正确的。我认为它至少会是工业革命的10倍。所以我认为他是对的。所以我想他会对我们现在的处境感到着迷，我猜想。
Lex: 我认为这本书的要点之一，也许你可以纠正我，是理性，正如书中所说，“理性的疯狂梦想”，对于指导人类构建这些超级强大的技术是不够的，还需要其他的东西。我的意思是，还有一种宗教成分。无论上帝，无论宗教给予什么，它都能在我们人类精神中唤起一些纯粹、冷酷的理性所不能给予的东西。
德米斯: 我同意这一点。我认为我们需要用任何你想称呼它的东西来对待它，精神层面或人文层面，不一定非得与宗教有关，对吧？但灵魂的这种概念，让我们成为人的东西，我们拥有的这种火花，也许它与我们最终理解的意识有关。我认为这必须是努力的核心。而技术，我一直将技术视为赋能者，对吧？这些工具使我们能够蓬勃发展，并更多地了解世界。
在这一点上，我有点赞同费曼的观点，他过去总是说科学和艺术是伴侣，对吧？你可以从两个方面理解它，一朵花的美丽，它是多么美丽，并且也可以理解为什么花的颜色会这样进化，对吧？这只会让它更美丽，花朵的内在美。我一直都是这样看待它的。也许在文艺复兴时期，当时的伟大发现者，像达·芬奇这样的人，我不认为他看到了科学、艺术，甚至宗教之间的任何区别，对吧？一切都是，这只是作为人类的一部分，并受到我们周围世界的启发。这就是我试图秉持的哲学。
我最喜欢的哲学家之一是斯宾诺莎。我认为他很好地结合了所有这些，即试图理解宇宙和理解我们在宇宙中的位置的理念。那是他理解宗教的方式。我认为这非常美好。对我来说，所有这些事情都是相关的，相互关联的，技术以及成为人类的意义。我认为非常重要的是，当我们沉浸在技术和研究中时，我们要记住这一点。我认为我看到的我们领域的许多研究人员都有些狭隘，只了解技术。我认为这也是为什么让整个社会来辩论这个问题很重要。我非常支持人工智能峰会之类的活动，以及各国政府对它的理解。我认为聊天机器人时代和人工智能产品时代的一件好事是，普通人实际上可以感受到并与最前沿的人工智能互动，并亲身体验它。
Lex: 是的，因为他们迫使技术人员进行人际交流。是的，当然。这是其中充满希望的一面。就像你说的，这是一种双重用途技术，我们正通过关于人工智能的讨论，强行将整个人类融入其中，因为最终人工智能、通用人工智能将被用于国家利用技术人员做的事情，也就是冲突等等。通过与人们交流，我们越多地将人类融入到这幅图景中，我们就越能引导。
德米斯: 是的，能够适应社会，你就能适应这些技术。就像我们过去对待我们发明的那些不可思议的技术一样。
Lex: 你认为会发生类似于曼哈顿计划的事情吗？即这项技术的威力会不断升级，各国仍然会以旧思维方式试图将其用作武器技术，从而引发这种升级？
德米斯: 我希望不会。我认为那样做会非常危险。而且我认为，你知道，也存在技术使用不当的问题。我希望我们最终能有更多，如果需要的话，能有更协作的东西，比如更像一个欧洲核子研究中心（CERN）的项目，你知道，专注于研究，世界上的顶尖人才聚集在一起，认真地完成最后的步骤，并确保在负责任地完成之后，再将其部署到世界各地。我们拭目以待。我的意思是，在当前的地缘政治气候下，我认为很难看到合作，但情况可能会改变。而且我认为，至少在科学层面上，研究人员保持联系，至少在这些议题上彼此保持密切联系是很重要的。
Lex: 是的，我个人认为，在教育和移民方面，如果东西方的人们能互相流动，那将是很好的。我的意思是，这里面包含着家庭和人际关系的因素，人们只是相互融合。是的。这样一来，这些联系就会变得牢固，所以你就不能用这种老套的思维方式来分裂彼此。因此，由多元文化、多学科的研究团队来研究科学问题，这就是希望。不要让那些好战的领导人分裂我们。我认为科学是最终极的美好连接者。
德米斯: 是的，我认为科学一直以来都是一项非常协作的努力。科学家们知道这也是一项集体努力，我们可以互相学习。所以，也许它可以成为促进一些合作的途径。
Lex: 你的，这个问题很荒谬，你的“末日概率”（P-Doom）是多少？也就是人类文明自我毁灭的概率。
德米斯: 呃，听着，我没有“末日概率”这个数字。我没有的原因是因为我认为那会暗示一种并不存在的精确程度。所以，我不知道人们是怎么得到他们的“末日概率”数字的。我认为这有点荒谬，因为我想说的是，它绝对不是零，而且可能不可忽略。因此，这本身就相当令人清醒。
而我的看法是，这件事具有巨大的不确定性，对吧？这些技术将能够做什么，它们会以多快的速度起飞，它们的可控性如何。有些事情可能会变得，而且希望是，比我们想象的要容易得多，对吧？但也可能存在一些非常棘手的问题，比我们今天猜测的还要困难。我认为我们不能肯定地知道这一点。所以在充满不确定性但双方利害攸关的条件下。一方面，我们可以解决所有疾病、能源问题、稀缺问题，然后进行星际旅行，探索星辰的意识，实现人类的最大繁荣。另一方面是这种存在风险的末日情景。
鉴于围绕它的不确定性和它的重要性，对我来说，唯一理性的明智方法是以谨慎的乐观态度前进。因此，我们当然希望获得好处，以及人工智能可以带来的所有令人惊叹的事物。而且事实上，如果考虑到我们面临的其他挑战，如气候、老龄化、资源等等，如果我不知道像人工智能这样的技术正在发展，我会非常担心人类的未来，对吧？我们该如何解决所有其他问题呢？我认为这很困难。所以 我认为它可能会带来惊人的积极转变。但另一方面，我们也知道存在一些风险，但我们无法完全量化这些风险。因此，最好的方法是使用科学方法进行更多研究，尝试更精确地定义这些风险，当然也要解决这些风险。我认为我们正在这样做。我认为在这方面需要投入的精力可能要比现在多10倍，因为我们越来越接近通用人工智能（AGI）的临界点。
Lex: 对你来说，主要的担忧来源是什么？是人为造成的，还是人工智能，通用人工智能造成的？是的。人类滥用该技术，而不是通过你所说的机制（这很吸引人）——欺骗或诸如此类的东西——的AGI本身。是的。秘密地变得越来越好，然后逃脱。
德米斯: 我认为它们在不同的时间尺度上运作，并且同样需要解决。所以就存在常见的，或者说各种各样的，像不良行为者使用新技术，在这种情况下，是通用技术，并将其重新用于有害目的。这是一个巨大的风险。我认为这有很多复杂性，因为总的来说，我非常赞成开放科学和开源。事实上，为了科学界的利益，我们用所有的科学项目，比如AlphaFold以及所有这些东西，都这样做了。但是，如何限制不良行为者（无论是个人还是流氓国家）访问这些强大的系统，同时又能让良好行为者访问，以便最大限度地在其基础上进行构建呢？这是一个相当棘手的问题，我还没有听到明确的解决方案。所以存在不良行为者使用案例问题。还有，显然，随着系统变得更加通用，更接近通用人工智能（AGI），以及更加自主，我们如何确保防护栏，以及它们坚持我们希望它们做的事情，并在我们的控制之下？
Lex: 是的，我倾向于，也许我的思维有限，更担心人类，那些不良行为者。在这方面，部分问题在于，如何不将破坏性技术置于不良行为者之手？但另一方面，从地缘政治技术的角度来看，如何减少世界上的不良行为者数量？这也是一个有趣的人类问题。
德米斯: 是的，这是一个难题。我的意思是，看，我们或许也可以利用技术本身来帮助对一些不良行为者的用例进行早期预警，对吧？无论是生物、核武器或其他什么，人工智能都可能在这方面有所帮助，只要你使用的人工智能本身是可靠的，对吧？所以这是一个相互关联的问题，这使得它非常棘手。再次，这可能需要在国际上达成一些协议，至少在中国和美国之间，就一些基本标准达成一致，对吧？
Lex: 我必须问你关于《疯子》这本书的事。这里有一个，上帝之手时刻，李世乭的第78步棋，也许那是人类最后一次做出某种纯粹的人类天才之举，击败了AlphaGo，或者说，击溃了它的算法。是的。很抱歉拟人化，但这是一个有趣的时刻，因为我认为在很多领域它会不断发生。
德米斯: 是的，这是一个特殊的时刻，对李世乭来说非常棒。我认为在某种程度上，他们是在互相激励。我们作为一个团队，受到了李世乭的才华和高尚品格的鼓舞。然后也许他受到了AlphaGo所作所为的启发，从而构想出这个令人难以置信的鼓舞人心的时刻。这一切都在关于它的纪录片中得到了很好的捕捉。而且我认为这种情况会在许多领域持续下去，在这些领域里，至少在可预见的未来，人类会发挥他们的聪明才智，提出正确的问题，然后以某种方式利用这些工具来解决问题。
Lex: 是的，随着人工智能变得越来越智能，我们可以问自己的一个有趣的问题是，是什么使人类变得特别？我觉得，也许我有些偏见，我们人类是非常特别的。我不知道这是否是我们的智力。可能是其他的东西，是理性疯狂梦想之外的其他东西。
德米斯: 我想这就是我小时候，刚开始这段旅程时一直想象的，当然，我着迷于诸如意识之类的事情，做了神经科学博士来研究大脑是如何工作的，尤其是想象力和记忆。我专注于海马体，这会很有趣。我一直认为最好的方法，当然，人们可以进行哲学思考，进行思想实验，甚至可以像你在神经科学中对真实大脑所做的那样进行实际实验。但最终，我一直认为，构建人工智能，一种智能人造物，然后将其与人类思维进行比较，看看两者之间的差异，将是揭示人类思维特殊之处的最佳方法，如果确实有什么特殊之处的话。而且我怀疑可能确实存在，但很难定义。我认为我们正在进行的这段旅程将帮助我们理解并定义这一点。
当碳基底质（我们）和硅基底质处理信息时，可能存在差异。我最喜欢的意识定义之一是，当我们处理信息时，信息所感觉到的方式。可能是。我的意思是，这不是一个非常有帮助的科学解释，但我认为这是一个有趣的直觉性解释。因此，在这段旅程中，我们正在进行的这段科学旅程将有助于揭开那个谜团。
Lex: 是的，我无法创造的，我就不理解。那是您非常敬佩的人，理查德·费曼，就像您提到的。您也追求维格纳关于普遍性的梦想，他曾在受限领域看到这种普遍性，而且还在广泛地、普遍地在数学等领域看到。您在许多方面都在努力推进，不是为了在最后惹麻烦，而是为了罗杰·彭罗斯。好的。那么，您认为意识，存在这个意识的难题，即信息是如何被感知的。首先，您认为意识是一种计算吗？如果是，如果它是信息处理，就像您说的，一切都是，那么它是否可以被经典计算机建模？是的。或者它本质上是量子力学的？
德米斯: 听着，彭罗斯是一位了不起的思想家，是现代最伟大的人物之一。我们已经就此进行了很多讨论。当然，我们友好地持有不同意见，你知道，我觉得，我是说，他与许多优秀的神经科学家合作，看看他是否能找到大脑中量子力学行为的机制。据我所知，他们还没有找到任何令人信服的东西。所以，我打赌这主要只是大脑中发生的经典计算，这表明所有现象都可以通过经典计算机建模或模仿。但我们会看到的，你知道，可能存在关于意识感觉，即感受质，这些哲学家争论的、基质独有的最终神秘事物。
当我们做像脑机接口这样的事情，并将神经接口连接到人工智能系统时，我们甚至可能会开始理解，我认为我们最终可能会这样做，也许是为了跟上人工智能系统的步伐，我们可能真的能够亲身感受到在硅上计算是什么感觉，对吧？所以，也许这会告诉我们。所以，我认为这将会很有趣。我曾经和已故的丹尼尔·丹尼特就我们为什么认为彼此是有意识的进行过辩论，好吗？所以，这有两个原因。一个是你表现出和我一样的行为。所以，这是一件事。从行为上来说，如果你是我，你看起来就像一个有意识的生物。但经常被忽视的第二件事是，我们在相同的基质上运行。所以，如果你以相同的方式行事，并且我们在相同的基质上运行，那么最简约的假设是你正在感受和我一样的体验。但是对于在硅上运行的AI，即使它表现出第一部分，即行为看起来像一个有意识的生物的行为，我们也无法依赖第二部分。它甚至可能会声称它是有意识的。但我们不会知道它实际上感觉如何。而且它可能无法知道我们的感受，至少在最初阶段是这样。也许当我们达到超级智能以及构建它的技术时，或许我们能够弥合这一点。
Lex: 不，我的意思是，这是对激进同理心的一项巨大考验，即对不同的基质产生共情。
德米斯: 对，完全正确。我们以前从未面对过这种情况。
Lex: 是的，所以也许通过脑机接口，能够真正地体会到作为一台计算机的感觉。
德米斯: 好吧，为了让信息被计算，而不是在碳基系统上。
Lex: 我的意思是，这很深刻，我是说，有些人会用植物、其他生命形式来思考这个问题，它们是不同的。
德米斯: 是的，有可能，完全正确。
Lex: 相似的基质，但在进化树上足够遥远，以至于需要激进的同理心，但要对计算机这样做。
德米斯: 我的意思是，不，我们某种程度上，有这方面的动物研究，比如，当然，像虎鲸、海豚、狗和猴子这样的高等动物，它们有一些，还有大象，它们肯定有一些意识方面的特征，即使它们在智商意义上可能不那么聪明。所以我们已经可以对此产生共情。也许有一天我们的一些系统，比如我们构建了一个叫做“海豚格玛”（Dolphin Gemma）的东西，你知道，我们系统的一个版本是用海豚和鲸鱼的声音训练的，也许在某个时候我们能够构建一个解释器或翻译器。应该会很酷。
Lex: 是什么让你对人类文明的未来充满希望？
德米斯: 嗯，让我充满希望的是，我认为首先是我们几乎无限的创造力。我认为我们中最优秀的人和最优秀的人类大脑是不可思议的。而且，你知道，我喜欢，你知道，认识和观看任何在其领域达到顶峰的人，无论是体育、科学还是艺术，你知道，没有什么比这更美妙的了，看到他们在自己的领域中处于心流状态。我认为这是几乎无限的。你知道，我们的大脑是通用系统，智能系统。所以 我认为我们用它们能做的事情几乎是无限的。
还有另一件事是我们的极强适应性。我认为情况会好的，虽然会有很多变化，但看看我们现在，实际上我们还拥有狩猎采集者的思维。我们是如何，你知道，我们是如何适应现代世界的，对吧？乘坐飞机，制作播客，你知道，玩电脑游戏和虚拟模拟。我的意思是，考虑到我们的头脑是为了在苔原上猎捕野牛而开发的，这已经令人震惊了。所以我认为这只是下一步。实际上，看看社会如何已经适应了我们今天拥有的这种令人震惊的AI技术，这很有趣。这有点像，哦，我和聊天机器人聊天，完全没问题。
Lex: 而且很可能这个我正在参与的播客活动，会被AI完全取代。我非常容易被取代，并且我正在等待它发生。
德米斯: 不到你能做到的那种程度，Lex，我不这么认为。
Lex: 好的，谢谢你。这就是我们人类彼此所做的事情，我们互相赞美。好的，我非常感激我们人类拥有这种对好奇心、适应性的无限能力，就像你说的，还有同情心和爱的能力。
德米斯: 没错。所有这些属于人类的东西。所有那些深刻的人性。
Lex: 嗯，这真是莫大的荣幸。德米斯，你是世界上真正特别的人之一。非常感谢你所做的一切，以及今天与我交谈。
德米斯: 嗯，非常感谢你，Lex。