近期,谷歌和Alphabet首席执行官SundarPachai(桑达尔·皮查伊)做客LexFreedman播客,两小时的访谈涵盖了他的个人历程、谷歌在AI领域的战略方向,以及他对科技和人类未来的愿景。内容极其硬核。
Pachai回顾了自己的成长经历:在印度钦奈的卑微成长经历,以及接触科技的有限性,深刻地塑造了他的人生观。他清晰地记得自己等待了五年才等到一部旋转拨号电话,还有在一场大旱之后终于有热水可用时的喜悦。这些经历让他亲身感受到科技如何极大地改变个人生活,这种信念深深地影响和激励着他,也让他一步步成长为谷歌这家万亿美金科技巨头的掌舵者。
访谈内容划重点:
1、人工智能是人类最深奥的技术:Pachai认为人工智能是“人类有史以来最深奥的技术”,甚至比火或电更深刻他强调人工智能的快速进步、递归式自我完善以及“大幅加速创造本身”的独特能力,认为它有可能成为人类历史上“头号生产力倍增器”。
2、人工智能释放全球80亿人的认知能力:他认为人工智能在“释放全球80亿人的认知能力”方面的变革力量。通过多模态、翻译和推理方面的进步(如Gemini所示),人工智能使非英语人士能够获取信息,从而极大地扩展了他们的“网络”,并激发了更深层次的好奇心。
3、人工智能进步的ScalingLaw依然强劲:Pachai表示人工智能的ScalingLaw依然强劲,这表明未来进步仍有“巨大空间”,尽管目前受到计算资源的限制他指出,Gemini的Token量在过去12个月内增长了50倍,达到每月480万亿Token,这证明了其快速发展。
5、AGI时间线:他预测,到2030年,人工智能将取得“显著进步”并产生重大社会影响,但真正的AGI(跨领域人类专家级智能)很可能在“该时间线之后”实现。他将人工智能的当前阶段描述为“AJI”,其中显著的进步与一些限制(例如数值错误)并存。
6、对人类集体行动导致的末日情景很乐观:尽管承认人工智能可能带来的生存威胁“潜在风险实际上相当高”,但Pachai对“P-Doom(probabilityofdoom,末日值)”情景仍持乐观态度他认为,如果人类团结一致,齐心协力解决问题,就能成功,这表明人类具有“自我调节”的能力,对威胁的认识将推动人类进步。他还认为,人工智能甚至可能帮助人类摆脱其他威胁。
7、领导力与成长哲学:登月计划与协作发展。Pachai建议年轻人“倾听你的内心”来找到自己喜欢的东西,并“与比你优秀的人一起工作”,来促进个人成长他强烈主张瞄准“登月计划”——雄心勃勃的想法,吸引最优秀的人才,提供清晰的前进道路(因为其他人会避免此类风险),并确保即使最终目标没有完全实现也能取得重大成功。他本人以“善于屏蔽噪音”和“区分信号和噪音”的方式应对外界批评,保持冷静平和的态度。
以下是LexFreedman播客中SundarPachai的对话原文:
一、印度成长经历
LexFreedman:你的人生故事激励了很多人。这对我来说很有启发。你在印度长大,全家住在简陋的两居室公寓里,几乎接触不到任何科技产品。你从卑微的出身一路成长为一家价值2万亿美元的科技公司的领导者。所以,如果你可以回到过去,告诉那个12岁的Sundar,你现在领导着人类历史上最大的公司之一,你认为那个年轻的孩子会说什么?
SundarPachai:我可能会一笑置之。当时可能太过牵强,难以想象或相信。
LexFreedman:你肯定得先解释一下互联网。那时我指的是计算机。1984年你12岁。所以可能那时你已经开始阅读有关它们的书籍了。我曾见过一个。那个地方怎么样?带我回到你的童年。
SundarPachai:你知道我在钦奈长大。它在印度南部,是一座美丽繁华的城市。很多人,很多能量,简单的生活。绝对喜欢在户外打板球的美好回忆。我们以前只是在街上玩耍。所有邻居家的孩子都会出来,我们会一直玩到天黑,不能再赤脚玩耍。交通会变得拥堵,我们就会停止游戏,所有车辆都会通行,只是为了让你在脑中形成视觉效果。在计算机出现之前,我们有很多空闲时间。现在我想起来了,现在你必须去寻找那种安静的孤独或其他东西。报纸、书籍是我当时获取信息的途径,你也会的。
我的祖父对我影响很大,他在邮局工作,他的语言能力非常出色,他的英语,他的笔迹至今仍是我见过的最漂亮的笔迹。他会写得这么清楚,他说话非常清楚,就这样他开始向我介绍书籍,他热爱政治。所以我们可以谈论任何事情,这在我的家庭中一直存在。所以有很多书,垃圾书,好书,从铁兰特到哲学书籍到愚蠢的犯罪小说,应有尽有。所以书籍是我生活中很重要的一部分。但是这种灵魂,我最终选择谷歌并不奇怪,因为谷歌的使命总是与我产生深深的共鸣,我渴望获得知识,但你肯定记得我童年时期的美好回忆,那里有知识,所以这就是我们拥有的财富,技术的各个方面我都必须等待一段时间。
我之前显然已经谈到我们花了多长时间才得到一部手机,大约5年,但这不是唯一的东西,一部电话。等候名单有五年之久。我们有一部旋转电话。但它极大地改变了我们的生活。人们会来我们家给他们的亲人打电话。我必须一路跑到医院去取血液检查记录,这需要花2个小时,然后他们会说,“对不起,还没准备好。第二天再来。”2小时后回来。这变成了5分钟的事情。所以当我还是个孩子的时候,我的脑海里突然闪过一个念头,你知道科技的力量可以改变人们的生活。我们没有自来水,你知道那是一场大旱灾。因此,他们会用卡车为每个家庭运送大约八桶水。所以我和我的兄弟有时还有妈妈会排队买它并带回家。许多年后,我们有了自来水,有了热水器,就可以用热水洗澡了。我的意思是,对我来说一切都是那么谨慎。所以我一直有这种亲身感受,知道技术如何极大地改变你的生活以及它带来的机会。所以,这对我来说是成长过程中的一种潜意识领悟。而且,我确实观察过它并感受到了它。
LexFreedman:是的,这很有趣。我们认为我们所取得的进步是理所当然的。如果你回顾人类历史,只看那些跨越2000年的GDP图表,你就会发现自工业革命以来,大部分进步都呈指数级增长,而我们却认为这是理所当然的。我们忘记了我们已经走了多远。因此,我们对于自身拥有的伟大以及技术进步速度的理解能力相当薄弱。我的意思是这很特别。
二、给年轻人的建议
SundarPachai:我现在回印度,看到移动的力量,看到时间的流逝所取得的进步真是令人惊叹不已。这真是太惊人了。
LexFreedman:对于那些正在收听这个节目、仰慕你、觉得你的故事鼓舞人心、想成为下一个Bachai、想创办公司、创造对世界产生重大影响的年轻人,你会给他们什么建议呢?
SundarPachai:一路上我有很多运气,但你显然必须作出明智的选择。你正在思考自己想要做什么,你的大脑正在告诉你一些事情。但是当你做某事时,我认为倾听你的内心并看看你是否真的喜欢做这件事是很重要的,对吗?如果你热爱你所做的事情,那么一切都会变得容易得多,你会看到自己最好的一面。说起来容易做起来难。我认为找到自己喜欢做的事情很难。但我认为,在弄清楚你想做什么方面,多听听你的内心而不是你的头脑,我认为这是我想告诉人们的最好的事情之一。
第二件事是尝试与那些在我生命中不同阶段感觉比我优秀的人一起工作,就像你知道你几乎坐在房间里和某人说话,他们会说哇,你知道你想要那种感觉几次,试着让自己处于一个与你觉得可以拓展你能力的人一起工作的位置,这有助于你成长,我想,所以让自己处于不舒服的境地,我想你经常会让自己感到惊讶。所以我认为,我想说的是,要足够开放地把自己置于这些位置,这也许是另一回事。
三、管理风格
LexFreedman:从局外人的角度来看,通过你的故事,我可以学到什么教训,并且对你有一点了解。你很谦虚,你很善良。通常,当我想到某个人有像你这样的经历并爬到领导岗位的最高点时,他们就像我们这个残酷的世界里的人一样,通常会有点混蛋。那么,从你采取的平衡、谦逊、善良、倾听每个人意见的总体态度中,我们应该得到什么智慧呢?你的秘密是什么?
SundarPachai:我确实生气了。我确实很沮丧。我和大家在工作和一切事情上都有同样的情感。但是有几件事是对的,我想随着时间的推移,我找到了最大限度地发挥人们才能的最佳方法。你会发现,在旅途中,人们都具有使命感,他们有追求卓越的内在动力,能够做到最好,你会激励别人,通过这种方式,你可以取得很多成就,所以事情往往会以这种方式发挥作用,但是有没有像我这样失去它的时候,但也许比其他人更少,也许这些年来这种情况越来越少,因为我发现它对于实现你需要做的事情来说并不是必需的。
LexFreedman:所以,发泄你的愤怒是没有任何意义的。
SundarPachai:是的。我认为人们很少会对此作出回应。他们可能会对此作出反应,但你实际上希望他们做正确的事,所以你知道也许这有点像体育运动,你知道我是足球教练的体育迷,在足球比赛中,你知道人们经常谈论像人事管理这样的事情,对教练来说,我认为在我们的生活中有这样的一个元素,你如何从与你共事的人身上获得最好的结果,你知道有时你与那些非常致力于实现目标的人一起工作,如果他们做错了什么,他们比你感觉更糟糕。
LexFreedman:你做得对,所以你对待他们的方式与你知道偶尔有些人你需要清楚地让他们知道那样不行或者其他什么,但我经常发现情况并非如此。
SundarPachai:有时在正确的时间坚定地说出正确的话语可以随着时间的推移而产生回响,有时不说出口的话,你知道人们有时可以看到,就像你知道你不开心而你没有说出来,所以有时沉默可以更好地传递信息,有时少即是多。
LexFreedman:谁是最伟大的,有史以来最伟大的足球运动员是梅西、罗纳尔多、佩莱还是马拉多纳,我会让你知道这个问题会不会是一个政治答案。
SundarPachai:不,我会告诉你真实的答案,因为,答案是,你知道这很有趣,因为我的儿子是克里斯蒂亚诺·罗纳尔多的忠实粉丝,所以我们必须一起看LCClassicos,那里有这种动态。我非常钦佩CR7。我的意思是,我从未见过一位运动员如此致力于追求卓越。他是史上最伟大的球员之一,但对我来说,梅西才是最伟大的球员。
LexFreedman:是的,当我看到莱昂·梅西时,你只会惊叹人类能够达到如此伟大、天才和艺术的水平。当我们交谈时,我们会谈论人工智能、机器人技术以及诸如此类的东西,那种级别的天才。我不确定你能否在很长一段时间内通过人工智能进行匹配。这只是一个伟大的例子。在其他学科中你也会看到这种伟大,但在体育运动中,你可以直观地看到它,这是其他任何事物都无法比拟的。时机和动作都堪称天才。
SundarPachai:几周前我有机会见到他。他在圣何塞打球。所以我就去看了,看了比赛。我是一名球迷,有很好的座位。希望知道他在下半场会在哪里踢球。即使在他这个年纪,只要看着他接球,那种动作,你是对的,那种特殊的品质,很难描述,但当你看到它时,你就能感受到它。
四、人工智能对人类历史的影响
LexFreedman:是的,他仍然拥有它。如果我们对人类历史上的所有技术创新进行排名,让我们回顾一下12000年前的人类文明史,然后根据它们对生产力的倍增作用进行排名。因此,我们可以回顾一下工业革命中的电力或劳动机械化,或者我们可以回顾一下12000年前的第一次农业革命,看看那一长串的发明。你是否认为,一千年后,当历史被书写时,人工智能有机会成为第一大生产力倍增器?
SundarPachai:这是一个很好的问题。看看,很多年前,我想可能是2017年或2018年。我当时说过,人工智能是人类有史以来最深刻的技术。它比火或电更为深刻。所以,我必须支持我自己。我,我仍然认为情况就是这样。当你问这个问题时,我在想,我们是否有近因偏差,对吗?就像在体育运动中一样,称呼当前看到的人为最伟大的人是非常诱人的。那么是否存在近因偏差,你知道我确实认为从第一原则来看,我认为人工智能将比所有这些我没有经历过的时刻更大。你知道两年前我必须接受手术,然后我意识到曾经有一段时间,人们在进行这些手术时没有麻醉那一刻,我想那一定是人类有史以来最伟大的发明,所以你看我们不知道经历过那些时代是什么感觉,但你知道你谈论的很多都是这种普遍的事情,几乎影响了你所知道的一切电力或互联网等。但我认为我们从未处理过一项进步如此之快、变得如此强大的技术。
目前还不清楚上限是什么,以及主要的独特之处是递归地自我改进,对吗?它有能力做到这一点。因此,事实上,它是第一种可以大大加速创造本身的技术,比如创造新事物,可以改进和实现自身的事情,我认为这就像把它放在了不同的级别,所以,不同的级别,所以我认为它最终产生的影响将远远超过我们以前所见的一切,显然随之而来的是很多重要的事情需要思考和努力,但我绝对认为最终会是这样,特别是如果它达到了我们可以在人工智能研究本身上实现超人表现的程度。
所以,这是一项可能仍是一个悬而未决的问题的技术,但它可能能够达到这样的水平,即技术本身可以比昨天创造得更好。这就像是alpha研究的第37步或其他什么。就像,什么时候是的,你是对的。当它可以进行新颖的自主研究时,显然在很长一段时间内,我们希望始终让人类参与其中,所有这些东西,这些都是很复杂的问题,但是是的,我认为底层技术,你知道我已经说过了,就像如果你看到AlphaGo从零开始,一无所知,然后在一天的过程中变得更好,你知道,就像当你看到这种情况发生时,你真的会被震撼,即使是我们的V3模型,如果你在它们完成30%和60%时对模型进行采样,看看它们生成了什么,你就会看到它们是如何组合在一起的,有点像我想说的,这有点鼓舞人心,但作为人类,有点令人不安,所以所有这些都是真的,我认为工业革命电力的有趣之处就像你提到的那样。
你可以回顾一下第一次农业革命。这就是所谓的新石器时代第一次农业革命,它不仅仅是游牧民族定居下来并开始种植食物。但所有其他类型的技术都是由此诞生的,并且包含在此包中。这不是一项单一的技术。存在这些连锁反应、二阶和三阶效应。一切东西,从愚蠢的东西,比如可以储存液体和食物的陶器,到我们认为理所当然的东西,比如社会等级制度和政治等级制度。所以早期政府的形成是因为如果人类停止迁徙并且有一些剩余的食物,他们就会开始想出,他们会感到无聊,然后他们就会开始想出有趣的系统,然后贸易就会出现,这真的是一件意义深远的事情,就像我所说的政府,我的意思是,这会产生二阶和三阶效应,包括那个方案是令人难以置信的,而且可能极其困难,如果你让游牧部落中的一个人预测这是不可能的。这很难预测。
但话虽如此,你认为我们可能会在所谓的AI包中看到哪些早期的东西?我的意思是,其中的大部分内容我们今天可能还不知道,但就像你知道的,我们现在可以切实看到的一件事是,显然随着编码的进展,你已经对它有所了解了。你可以很容易地想象你头脑中的想法将其转化为实际存在的事物。这将是包裹的一部分。就好像它将赋予几乎所有人类以表达自我的能力。也许在过去你可以用语言来表达,但你可以将事物构建成现实。今天可能还没有完全实现。我们正处于VIP编码的早期阶段。我对人们在网上发布的V3内容感到惊讶,但这需要一点工作。你必须把一组提示拼凑在一起,但这一切都会变得更好。我一直在想,这一定是最糟糕的情况了。就像在任何特定的时刻一样。
LexFreedman:是的,你首先想到的是去那里,这很有趣。因此,创造力、软件创作的获取呈指数级增长,你是否正在创建一个程序、一段与他人分享的内容、未来的游戏,所有这些都变得无限可能。
SundarPachai:我认为最重要的是它让它变得易于访问。它释放了全部80亿人的认知能力。想想看,40年前,也许在美国只有五个人可以做你所做的事情。比如去做一个采访,但是今天想想YouTube和其他产品等等。有多少人在做这件事?所以我认为这就是技术的作用就像互联网创建博客时一样,你可以听到更多人的声音。所以我认为有了人工智能,这个数字将不会只有几十万,而是数千万人,甚至可能是十亿人,他们会以更深入的方式向世界展示事物。
SundarPachai:我唯一想说的是,我确实认为在一个有两个人工智能的世界里,人们会重视并选择,就像在国际象棋中一样,你和我永远不会看Stockfish10或其他什么和AlphGo互相对抗,因为这对我们来说会很无聊,但MagnusCarlson和Gish的比赛会更有趣。所以很难说,一种说法是,你会拥有更多的内容,所以你会听人工智能生成的内容,因为有时它是有效的等等。但你重视的优质体验可能是人类本质的一种形式,无论它来自哪里,回到我们之前谈论的看梅西带球。我不知道有一天一台机器是否会比梅西盘球更好,但我不知道它是否会在我们心中唤起同样的情感。
LexFreedman:所以我认为这将会非常有趣。我认为播客或有声读物中关于信息收集的部分可能会被删除,或者可能由人工智能以更有效、更引人注目的方式完成,但听到人类与信息斗争、与信息抗争、试图内化它、将其与我们自身情感和意识的复杂性结合起来,以及所有类似的东西,这将是件好事,但如果你真的想了解一段历史,你可以去Gemini。如果你想看到莱克斯与那段历史作斗争,那么你就看看其他人,看看那个。但重点是它将改变我们发现信息、消费信息和创造信息的方式的本质。就像YouTube彻底改变一切、改变新闻一样,它也在改变,而这正是我们的社会正在努力应对的。
LexFreedman:你认为还有未来吗?假设我们要标记一下,那还要多少年呢?50%的内容是一个引人注目的好内容,50%的好内容是由V4、5、6生成的。
SundarPachai:这是一个很好的问题。你提到了达伦,你知道他是一个有远见的人,对吧?我们很早就开始与他合作开发VO的部分原因是,他是那种能够预见未来并从中受到启发的人,并且能够展示富有创造力的人们如何利用VO来表达自己的方式。我认为允许艺术自由表达是社会最重要的价值观之一。艺术家一直是那些不断突破界限、拓展思想边界的人,所以我认为这将是我们的一个重要价值,所以我们将提供工具并将其交到艺术家手中供他们使用并发布他们的作品那些API,我的意思是我几乎将其视为基础设施,就像当你向人们提供电力或你希望他们使用它的东西时,你不会考虑其上的用例。所以我认为显然必须有一些事情,你知道社会需要从根本上决定什么是可以的,什么是不可以的。我们会负责的。但我确实认为,当谈到艺术自由表达时,这是我们应该努力捍卫的价值观之一。
SundarPachai:我认为这里的一个很好的见解是,随着模型功能越来越强大,模型在这些方面真的很擅长。因此我认为从某种程度上来说也许一年前这些模型还没有完全实现。所以他们也会更频繁地做蠢事,所以你知道你正在尝试处理这些边缘情况,但是你在处理这些边缘情况时犯了一个错误,而且情况变得更加复杂。但我认为,对于2.5,我们特别发现,一旦模型达到一定的智能和复杂程度,你就知道它们能够很好地推理这些细微的问题。我认为用户确实想要这样,就像你知道你想要尽可能多地访问原始模型一样,但我认为这是一个很好的思考领域,就像你知道随着时间的推移,你知道我们应该允许越来越近地访问它,也许显然让人们自定义提示,如果他们愿意,你知道用它进行实验等等。我认为这是一个重要的方向,但看看我们想要考虑的第一原则,你知道从科学的角度,比如确保模型,我说的科学是指你如何从第一原则的角度来处理数学或物理或类似的东西,让模型对世界的推理是细致入微的等等,你知道从头开始是构建这些东西的正确方法,而不是像人类的某些子集在它上面进行硬编码。所以我认为这是我们一直以来的方向,我想你会看到我们继续朝着这个方向努力。
LexFreedman:是的。我实际上问过我给了这些笔记我做了大量笔记然后我把它们给了Gemini并说你能问一个这些笔记中没有的新颖问题吗并且它写道Gemini继续让我感到惊讶真的让我感到惊讶。真的很美丽。这是一个令人难以置信的模型。问题是,它产生的意思是Sundar告诉全世界Gemini每月会产出480万亿个Token。那堆哈希表中隐藏的最能改变生活的五字句子是什么?这是Gemini的问题,但它让我明白了。我认为你无法回答这个问题,但它让我意识到所有这些Token都为全世界的人们提供了小小的顿悟时刻。所以这就像了解那些Token是人们好奇的。他们提出问题并找到答案,而这确实可能会改变生活。
六、ScalingLaw
LexFreedman:你认为ScalingLaw是否仍然有效,有很多方法可以描述人工智能的缩放定律,但在训练前和训练后方面呢?那么另一方面,你是否预计人工智能的发展将会遭遇阻碍?有墙吗?
SundarPachai:这是一次珍贵的微型厨房对话。有时候我会有这种感觉,比如当Demis来访时,或者,你知道,Dennis、Cori、Jeff、Gnome、Sergey,我们一群人坐在一起,谈论这个,对吧?你看,我们看到前面还有很大的发展空间,对吧?我想,我们已经能够在各个方面进行优化和改进,对吗?预训练、后训练、测试时间、计算、工具使用,对吗?随着时间的推移,这些将变得更加具有代理性。因此,让这些模型朝着更通用的世界模型(如V3)发展,物理理解比V1或类似的东西要好得多。因此,你可以从各个方面来观察。我觉得进展非常明显,而且我觉得还有很大的发展空间,更重要的是,我很幸运能与地球上一些最优秀的研究人员一起工作,他们认为这里还有更多的发展空间,所以我认为我们未来有一个令人兴奋的轨迹,很难说,你知道每年我坐下来说,好吧,明年我们将投入10倍以上的计算,我觉得来年我们会取得很大的进步。
LexFreedman:你是否感觉到任何限制,比如瓶颈、计算限制、数据限制、想法限制,你是否感觉到任何这些限制,还是在所有方面都全速前进。
SundarPachai:我认为从这个意义上说,这是计算限制,就像你知道我们都可以部分地看到我们做闪存纳米闪存和专业模型而不是超级模型的原因。就像每一代一样,我们感觉我们已经能够获得Pro型号,就像我不知道80%到90%的超强功能一样,但超强功能会更慢,而且服务成本更高。但我们能够做的是进入下一代,并使下一代的专业版与上一代的超级版一样好。是的。但能够以一种快速的方式提供服务,并且你可以使用它等等。所以我确实认为缩放定律是有效的。但在任何时候都很难实现。我们最常用的模型可能比我们所能提供的最大能力落后了几个月,对吗?因为那不是最快的、最容易使用的等等。而且,那是从智能的角度来说的。用引号来衡量性能变得越来越困难,因为,你知道,你可以说GeminiFlash比Pro更有影响力,仅仅是因为延迟。它已经非常智能了。我的意思是,有时延迟可能比智能更重要,特别是当闪存中的智能程度稍低时,它仍然是一个非常智能的模型。
七、AGI和ASI
LexFreedman:是的。因此,你现在必须开始衡量影响力,然后感觉基准越来越不能捕捉模型的智能、模型的有效性、实用性以及模型在现实世界中的实用性。另一个问题,很多人都在谈论AGI或ASI人工智能的时间表。因此,广义上的AGI基本上是在人类许多主要研究领域中达到人类专家水平,而AGI则可能通过自我改进而迅速达到ASI。因此,在所有这些学科中,其智力都远远优于人类。你认为我们什么时候会有HGI?2030年有可能吗?
SundarPachai:我们还应该加入另一个术语。我不知道是谁先使用它的。也许Karpati做了AJI。你听说过AJI吗?人工智能有时会给人这样的感觉,既有进步,你也看到它们能做什么,然后你就会发现它们会犯数字错误,或者像你知道的那样,计算R和草莓之类的,这似乎会绊倒大多数模型,不管它是什么,对吧?所以也许我们应该把这个术语放进去。我觉得我们正处于AJI阶段,在这个阶段,我们取得了巨大的进步,但有些事情进展并不顺利,但总的来说,我们看到了很多进步,但如果你的问题是它是否会在2030年实现,我们不断地改变AGI的含义,今天,就像坐在旧金山的街道上,周围都是人群,人们在努力前行,我在那里看到了它的一瞥。
汽车有时有点不耐烦地试图使用Astra,就像在GeminiLive中一样,或者看到你知道问有关世界的问题。我家附近有这么一座瘦小的建筑,它到底有什么用处呢?这是路灯,不是建筑物。你看到了一瞥。这就是我使用AJI这个词的原因,因为这样你就会看到一些东西,显然你知道我们离AGI还很远。因此,你会同时经历这两种情况。我会回答你的问题,但我也会抛出这个问题。我几乎觉得这个词并不重要。我知道到2030年我们将取得显著的进步。到2030年,我们将在很大程度上处理这一进步的后果,包括积极的方面,包括积极的外部性和消极的外部性。
LexFreedman:是的,你说了很多有趣的事情。所以,首先,回顾最近发生的事情,感觉就像谷歌大脑的遥远历史一样。我的意思是那是在TensorFlow公开和开源之前。因此,结合GitHub共享代码的能力,工具也很重要。然后你就有了注意力转换和扩散的想法,现在可能会出现一个新想法,现在回想起来似乎很简单,但会改变一切,这可能是训练后推理时间的创新,我认为ShadCen在推特上说,谷歌只需要一个伟大的UI就能完全赢得人工智能竞赛,这意味着UI是其中很重要的一部分,就像那个智能一样,我认为LoganCop项目现在喜欢谈论这个。它是一个LLM,但它什么时候会成为一个系统,你谈论的是运输系统而不是运输特定模型。
SundarPachai:是的,这也很重要。系统如何体现自身以及它如何向世界呈现自身才是真正重要的。噢,非常如此。一些简单的UI创新已经改变了世界,我绝对这么认为。我们将在未来几年看到更多的进步,我认为人工智能本身在UI本身的自我完善轨道上,就像你知道今天我们就像限制模型一样,模型不能完全用UI向人们表达自己但那是,就像你知道如果你考虑一下,我们已经以这种方式将它们装箱,但考虑到这些模型可以编码你知道他们应该能够编写最好的界面来表达他们的想法,对吧?这是一个令人难以置信的想法。因此API已经开放。因此,你可以创建一个非常好的代理系统,不断改进你与人工智能对话的方式。是的。但其中很大一部分是界面,当然还有谷歌一直在推动的界面令人难以置信的多模式方面。这些模型本身就是多模式的。他们可以轻松地从任何格式中获取内容,并将其放入任何格式中。他们可以编写良好的用户界面。随着时间的推移,他们可能会更好地了解你的喜好,就像你知道的那样,所以这一切都像是未来的进化。
LexFreedman:那么这又回到了我们开始谈话的地方。我认为未来几年将会发生巨大的变化。也许还有一个厨房问题。这个末日的概念更加荒谬。因此,人工智能社区中具有哲学思想的人们思考着AGI和ASI可能会摧毁整个人类文明的可能性。我想说我的P-Doom大约是10%。你是否考虑过ASI的这种长期威胁以及你的末日是什么?瞧,我是说肯定的。
SundarPachai:瞧,我对人工智能感到非常兴奋。但我一直觉得这是一项技术,我们必须积极考虑风险,并非常努力地利用它,使一切顺利进行。关于P-Doom问题,看,你不会感到惊讶,这可能是偶尔出现的另一个微型厨房对话,对吧?考虑到技术的强大,也许退一步来说,你知道,当你经营一个大型组织时,如果你能够协调组织的激励措施,你几乎可以实现任何事情,对吗?就像,如果你能让人们以非常专注的方式、以使命驱动的方式朝着一个目标前进,你几乎可以实现任何目标。但用这种方式来组织全人类是非常困难的。但我认为,如果恋童癖在某个时候确实很高,那么全人类都会一致确保情况不会如此,这样我们实际上就会在反对它方面取得更多进展,我认为讽刺的是,这其中有一个自我调节的方面,就像我认为如果人类集体下定决心去解决一个问题,无论是什么问题,我认为我们都能做到,因此,我认为我对恋童癖的场景持乐观态度,但这并不意味着我认为潜在的风险实际上相当高,但我对人类能够奋起迎接那一刻充满信心。
LexFreedman:说得确实非常好。我的意思是,随着威胁变得更加具体和真实,人类确实会团结起来,共同应对。我认为人们不常谈论的另一件事是没有人工智能的厄运概率。所以,人类还有许多其他方式可以毁灭自己。这是很有可能的,至少我相信如此,人工智能将帮助我们变得更聪明,彼此更友善,更高效。它将帮助世界上更多的地区繁荣发展,这些地区的资源限制较少,而资源限制往往是军事冲突和紧张局势等的根源。因此,我们还必须考虑到,没有人工智能的P-Doom是什么,有人工智能的P-Doom,有人工智能的P-Doom,没有人工智能的P-Doom,因为人工智能很有可能拯救我们,拯救人类文明免受所有其他威胁。
SundarPachai:我同意你的看法。我认为这是很有见地的。你看,我觉得如果有像人工智能这样的人来帮助你解决一些最棘手的问题,那将会是件好事,对吗?而且就像你知道的,这肯定引起了我的共鸣。是的。短暂停顿,去洗手间,我们就这么做吧。
LexFreedman:如果NoteBookLM具有与我今天看到的Beam相同的吸引力,如果它以同样的方式引人注目,那将让我大吃一惊。
SundarPachai:这真是令人难以置信。噢,我不认为这有可能。
这样说似乎很天真,但在现实中和与光束接触时确实存在某种东西,我也有同样的感受,然后我无法解释我一直在做的就是像孩子一样看起来很真实,我的意思是,我不知道这是否会使会议更有效率,但它肯定会使会议更有成效,出于同样的原因,你想出现在工作中而不是远程工作,有时人际关系我不知道那是什么。这很难用语言表达。
优秀的团队在某件事上进行合作是有美妙之处的,而这无法通过团队的生产力或纸面上的任何东西来体现。就像你们一生中经历的一些最美好的时刻就是在工作中一起花费数月时间追求一件困难的事情。没有什么能比得上它。你们身处战壕,是的,你们确实可以通过这种方式建立联系。能够以同样的个人风格远程做到这一点,我不知道,这是一件非常有成就感的事情。我知道很多人,我个人很讨厌会议,因为如果会议进行得不好,很大一部分会议就无法达到明确的目的。所以,但这是一个会议问题。这不是沟通问题。如果你可以改善有用的会议沟通,那就太棒了。是的,我被它背后伟大的工程技术所震撼,然后我们就能看到它的影响。这真的很有趣。但这只是令人难以置信的工程。确实令人印象深刻。
SundarPachai:是的。显然,我们多年来将不断努力,使其越来越容易获得。但是,是的,即使在工作会议之外的个人层面上,远离我们孙子的祖母能够进行这样的互动。我认为这一切最终都会变得非常卑鄙。没有什么可以取代亲临现场,但你知道,这并不总是可行的。你可能是一名被派遣出去的士兵,正在试图与你所爱的人交谈。
八、最艰难的领导决策
LexFreedman:所以我想这就是去年你和我一起出去散步时给我们带来启发的东西。我记得我们没有谈论过这个,但是我记得除此之外,我还看到了分析师和专家撰写的数十篇文章,其中SundarPachai应该下台,因为人们认为谷歌在人工智能竞赛中彻底失败了,在快速发展的技术领域失去了魔力,而现在一年过去了,你展示的过去一年发布的所有产品的图表令人难以置信,而GeminiPro在我们今天坐在这里时,在许多基准和产品中都取得了胜利。所以,当所有这些文章都说你不是带领谷歌解决这一问题的合适人选时,请告诉我那段经历。谷歌失败了,一切都结束了,今天谷歌又赢了。那段时间有哪些低谷?
SundarPachai:我的意思是有很多东西要打开。显然我作为首席执行官所做的主要赌注就是确保公司以人工智能优先的方式处理一切事情。真的,我们要负责任地开发AGI,对吧?并确保我们推出的产品对人们非常有用。所以你看,我知道,即使经历了去年那样的时刻,我很清楚我们内部正在建设什么,对吧?所以我已经作出了很多重要的决定,召集大脑和深度思维水平的团队并建立谷歌深度思维。比如,我们10年前就决定投资TPU。所以,我们知道我们正在扩大规模并构建大型模型。任何时候你处于那样的情况,有几个方面,我擅长消除噪音,将信号与噪声分离。你会潜水吗?你知道这太神奇了,我不擅长它,但我已经做过几次了。但有时你跳入大海,海浪非常汹涌。但当你深入地下一英尺时,它就是整个宇宙中最平静的东西,对吗?
并且,为了扩大规模,实际上拥有足够多的TPU来获得所需的计算能力,但我可以从内部看到我们所处的轨迹,并且,我内心对这种可能性感到非常兴奋。对我来说,这一刻是我们公司面临的最大机遇之一。未来十年、二十年的机会空间比过去更大。我认为我们比世界上大多数公司都更有能力实现这一愿景。我的意思是你必须作出一些重要的大胆决定,就像你提到的深层思维和大脑的融合一样。
LexFreedman:也许这只是我对人类的了解。我确信其中有很多自负之人。合并团队非常困难,我相信需要作出一些艰难的决定。你能跟我讲讲你思考这个问题的过程吗?你会扣动扳机并作出这个决定吗?也许存在一些痛点?你如何在这些湍急的水域中航行?
SundarPachai:我们很幸运拥有两支世界级的球队。但是你是对的,就像有人来告诉你,选择斯坦福和麻省理工学院,对吗?然后把它们组合在一起创建一个伟大的部门,对吗?但说起来容易做却难。但是我们很幸运,两支非凡的球队都有自己的优势,他们的运作方式非常不同,对吧?就像大脑一样,它是自下而上进行的许多不同项目,并从中产生了很多重要的研究突破。当时,DeepMind对如何构建AGI有着强烈的愿景,因此他们正在追求自己的方向。但我认为,幸运的是,通过这些时刻,杰夫表达了更强烈的愿望,希望回归到更科学的个人贡献者的根源。你知道他觉得管理占用了他太多的时间,还有Demis。
我想我当时对矿井很着迷,这是一个自然的选择,但我认为你是对的,你知道我们花了一段时间才把团队聚集在一起,这要归功于DeisJeffKai,所有优秀的人,他们非常努力地将两个世界的优点结合起来,当你组建那个团队的时候,我们在这里和那里度过了几个不眠之夜,当我们把那个东西放在一起时,我们很有耐心,这样它才能长期运作良好,对吧?在那一刻,我想是的,随着事情的快速发展,我想你肯定感受到了压力,但我认为我们很好地完成了那个转变,我认为,他们显然做了令人难以置信的工作,而且他们还会做更多令人难以置信的事情。
LexFreedman:正如我们谈到的,你有一种非常冷静、平和、尊重他人的风度。在那段时间里,无论是合并还是仅仅处理噪音,有没有感到沮丧的时候?比如,你是否必须比平时对每个人都更加严厉一些?
SundarPachai:大概可能是对的。我认为,从某种意义上说,那一刻我们都在努力工作,但当你在充满激情的一线工作时,你会有不同意见、争论的日子,但就像所有这些,我的意思是,这只是紧张工作过程的一部分,到最后,我们所有人都在做我们正在做的事情,因为它可能产生的影响,我们被它所激励,就像,对我们很多人来说,这是一段漫长的旅程,所以它非常令人兴奋,积极的时刻远远超过那些紧张的时刻,就在今年年初,我有机会连续两天庆祝杰夫·芬顿获得诺贝尔奖,第二天丹尼斯和约翰·江珀也获得了诺贝尔奖。
LexFreedman:你知道你和这样的人一起工作,所有这些都非常鼓舞人心,有没有一种观点,你必须坚持自己的立场,也许少一些,多一些,
SundarPachai:比如我是首席执行官,我们正在这样做,以回应我之前关于你作出的重大决定的观点有些决定,人们可能会非常强烈地反对,但到了一定时候,你知道你作出了一个明确的决定,你只需要人们作出承诺,就像你知道你可以不同意一样,但现在是提出不同意见的时候了,这样我们就可以行动起来,无论是坚持己见,还是你知道这是我们所有人必须做的自然而然的一部分,你知道我认为你可以冷静地做到这一点,并且坚定地朝着你作出决定的方向前进,我认为如果你很清楚,人们随着时间的推移会尊重这一点,就像你知道如果你能清楚地作出决定,我发现在你做这样的决定的会议上听取每个人的意见是非常有效的。我认为,听取每个人的意见非常重要。有时,你所听到的内容实际上会影响你的想法,你会对此进行思考并作出决定。有时你有一个明确的信念,然后你说,我知道这就是我的感受,你知道这是我的信念,然后你下注,继续前进。其他类似的重大决定。
LexFreedman:我直觉地认为合并是一件大事。我认为这是一个非常重要的决定,为了公司能够适应当前的形势。
SundarPachai:我认为我们必须确保我们正在做这件事,并且做得很好。我认为这是一个重要的决定。还有许多其他事情。我们成立了一支人工智能基础设施团队,真正地满足了扩大我们所需计算能力的需要,并真正地从公司各个绝望的部门召集团队来推动它向前发展。让人们在伦敦的DeepMind和我们称之为GradientCanopy的团队(山景城GoogleDeepMind团队所在地)进行物理上的合作。但我最喜欢的时刻之一是,我每周都会多次步行到纹理天篷大楼,我们的顶尖研究人员正在那里研究模型。谢尔盖经常在他们中间。就像你知道的那样,你知道查看模型的更新,查看损失曲线。所以我认为,让团队重新团结起来并充满活力的文化因素最终也发挥了重要作用。
另外,我认为AI模式下没有广告。当广告处于AI模式时。那么现在你认为我的意思是我们应该说在90年代我记得动画横幅会带你到一些与任何事情都无关的可疑网站。AdSense彻底改变了广告。这是近代历史上最伟大的发明之一,因为它让我们可以免费获得所有这些类型的服务。因此,广告为许多真正强大的服务提供了动力,最好的方式是向你展示相关的广告,但同样重要的是,它的方式不会让人感到厌烦。以一种优雅的方式。那么,你认为什么时候可以在AI模式中添加广告,从优雅而不令人讨厌的角度来看,这是什么样的?
SundarPachai:两件事。人工智能模式的早期部分显然会更加注重有机体验,以确保我们做对了。我认为广告的根本价值在于它能够让数十亿人获得并部署服务。第二,我们一直认真对待广告的原因是,我们将广告视为商业信息,但它仍然是信息,因此我们为其带来相同的质量指标。通过AI模式,我们之前讨论过,我认为AI本身会随着时间的推移帮助我们找到最好的方法。鉴于我们对所有内容都给出了背景信息,我认为这将为我们提供更多机会来解释,好的,这里有一些商业信息,例如今天作为播客,你会在某些时候这样做,你可能会弄清楚什么是你的播客中最好的。我认为有这方面的因素,但我认为人们的根本需求是重视商业信息,企业正试图与用户建立联系,所有这些在人工智能时代都不会改变,但你会重新考虑它,你已经看到我们在YouTube上将订阅和广告结合起来,显然你知道我们现在正在推出订阅服务,涵盖所有方面,因此作为其中的一部分,我们可以优化,优化点最终也会有所不同。
LexFreedman:而AI模式仍然会将你带到人类创建的网络。
SundarPachai:这让人感到紧张。看,我认为新闻和新闻业在未来将发挥重要作用。我们对此非常投入,对吧?所以我认为确保生态系统实际上我认为我们将能够因为我们在那里的承诺而随着时间的推移使自己作为一家公司脱颖而出。所以,我认为我非常重视这一点,并且在设计过程中,我们将继续优先考虑方法。
LexFreedman:所以,你刚才谈到了这一点,谈到了这是网络的一部分,它将越来越多地为代理商提供信息。因此我们可以将其想象成网络的两层。一个是针对人类的,一个是针对代理的。你看到人工智能代理了吗?你是否看到针对AI代理的应用随着时间的推移而不断增长?你是否认为,人类为了消费而创建的网络在未来5到10年内仍具有长期价值,还是最终都将成为代理?是的。
SundarPachai:今天,虽然不是每个人都这样做,但是你去一家大型零售店,你喜欢走在过道上,你喜欢购物或杂货店,挑选食物等,但你也在网上购物,他们会送货上门,对吧?所以,两者是互补的,就像对于餐馆等来说一样。所以,我确实觉得随着时间的推移,网站也会变得更适合人类。它们将会被设计得更好。人工智能实际上可能会为人类设计出更好的产品。因此我希望网络变得更加丰富、更有趣并且更好用。与此同时,我认为代理网络也会取得很大进展,你必须解决商业价值和激励问题才能使其良好运作,对吗?喜欢让人们参与其中,但我认为两者将共存,显然代理可能不需要相同的,我的意思是可能不需要相同的设计和人类需要与之交互的UI范例,但我认为两者都会存在,
十、谷歌浏览器
LexFreedman:我必须问你关于Chrome的问题,我不得不说,就我个人而言,谷歌Chrome可能是,我不知道我想看看我会把它排在哪里。但在这种诱惑中,这不是近期偏差,尽管可能有点,但我认为它排在前三名,也许是我有史以来最喜欢的软件。这真是令人难以置信。真是太不可思议了。浏览器是我们通向网络的窗口。Chrome确实持续了很多年,但即使最初它已经过时,它仍然在推动这方面的创新,并且不断挑战,不断使其性能更高。那么高效,就不断创新。还有它的Chromium方面。不管怎样,你是Chrome的先驱之一,当它还是一个疯狂的想法时,你就大力推动它,它可能是受到批评和质疑的想法之一。那么,你能告诉我推动Chrome发展的故事吗?你的愿景是什么?
SundarPachai:你看,那是一个充满活力的时代,大约在2004到2005年,随着Ajax的出现,网络在短短几个月内突然变得充满活力,Flickr、Gmail、GoogleMaps等都应运而生,对吧?就像你有一个交互式动态网络一样。网络正在从简单的文本页面、简单的HTML发展到丰富的动态应用程序。但与此同时,你会发现浏览器从来就不适合那个世界,对吗?就像JavaScript执行非常慢一样。浏览器还远远没有成为即将出现的丰富的现代网络的操作系统。
所以这就是我们看到的机会,你知道这是一支令人惊叹的早期团队。我依然记得我们在WebKit上运行shell的那一天以及它的速度有多快。我们对构建浏览器有着清晰的愿景,比如我们希望将核心操作系统原则引入浏览器,所以我们构建了一个安全的浏览器沙箱,每个选项卡都是自己的,这些东西现在并不常见,但在当时非常独特,我们在丹麦找到了一支很棒的团队,其领导者构建了V8JavaScriptVM,它当时比任何其他JavaScriptVM都快25倍。顺便说一句,你是对的。我们将其全部开源,并将其放入Chromium中。但我们确实认为网络可以运行得更好,嗯你知道速度更快,而且浏览网页也更安全。
我们之所以采用Chrome这个名字,是因为我们确实感觉到人们觉得Chrome浏览器越来越笨重了。我们希望将其最小化。这就是该项目的起源。显然,这里的人对Chrome的谈论带有强烈的偏见。但你知道这是我经历过的最有趣的事情,从头开始打造一个产品,而且你知道这是一个非凡的团队。这个项目的联合创始人都很棒。真是美好的回忆。因此,对于那些不认识Sundar的人来说,可以说你就是我们拥有Chrome的原因。我知道有很多出色的工程师,但是在公司内部推动这一想法可能会遭到反对,因为这是一个疯狂的想法,因为众所周知,构建浏览器非常困难。你看,埃里克当时的首席执行官,我认为他对此的反对程度不大。他亲身体验过开发浏览器是多么疯狂的事情。所以他肯定是这样的,你知道,真正想要构建一个浏览器有一个疯狂的方面。但是他非常支持,你知道每个创始人都是这样的,我认为一旦我们开始构建某些东西,我们就可以使用它,然后看看它会有多好,就像你知道你真的在修补产品并使其变得更好,它很快就变得生动起来。
LexFreedman:你从早期推进一个疯狂的想法并最终使其成为革命性的想法中汲取了什么智慧?未来还有什么疯狂的想法呢?
SundarPachai:这是拉里和谢尔盖已经明确表达过的事情。我很早就真正地将这一点内化了,你知道,这就是他们对从事登月计划的整个感觉,就像当你从事一件非常雄心勃勃的事情时,首先它会吸引最优秀的人才,对吧,所以这是你的优势;其次,因为它是如此雄心勃勃,你没有其他人在做一些疯狂的事情,所以你基本上可以自己走这条路,对吧,这更像是一种自我驱动;第三,即使你最终没有完成你设定的目标,而你最终完成了60%到80%,你最终也会取得巨大的成功。所以,你知道这就是我给人们的建议,对吧?我认为,就像你知道的那样,仅仅追求伟大的想法就有所有这些优势,尽管它有风险,但它也有所有这些优势,我认为人们还没有完全内化它们。
LexFreedman:你提到了最疯狂的最大登月计划之一,那就是Waymo。那是十多年前我第一次看到一辆更先进的汽车,一辆谷歌自动驾驶汽车。对我来说,这是机器人技术的一次顿悟时刻。它让我比以前更加热爱机器人技术。它让我看到了未来。这真是令人难以置信。我由衷地感谢这个项目所象征的意义。但这也是一次疯狂的登月计划。就像你提到的潜水一样,很长一段时间以来,我们一直没有听取任何人的意见,只是冷静地改进系统,进行更多的测试,不断扩展操作领域。首先,祝贺你完成了1000万次付费机器人出租车服务。你从Waymo身上学到了什么?比如坚持不懈、坚持不懈。
SundarPachai:我对Waymo取得的进展感到非常自豪。我认为我们非常致力于最后20%的事情,我的意思是,我们总是说,前80%很容易,最后20%需要80%的时间。我认为我们肯定正在和Waymo一起努力完成这个阶段,但我意识到了这一点,但我们知道我们处于那个阶段,我们知道我们之间存在技术差距,而当时有很多人,很多其他自动驾驶公司,我们知道技术差距就在那里,事实上,就在其他人怀疑Waymo的时候,我不知道我们作出了加大投资的决定。
LexFreedman:我们将在26年继续扩大规模,也就是说,竞争正在升温,你一直和Elon保持友好关系,尽管技术是竞争对手,但你一直和很多科技公司的CEO保持友好关系,只是向他们表示尊重,你如何看待特斯拉正在进行的机器人出租车努力。你认为这是竞争吗?你怎么认为?你喜欢比赛吗?
SundarPachai:我们是SpaceX最早和最大的支持者之一,就像谷歌一样,所以我们对SpaceX所做的事情感到兴奋,并且很幸运能够作为一家公司成为他们的投资者,而且我们不直接与特斯拉竞争,我们不生产汽车等等,我们正在构建L45自主性,我们正在构建一种通用的方式驱动程序,它可以用于许多方向。他们显然也在致力于让特斯拉实现自动驾驶。我只是假设埃隆无论做什么都会成功。所以就像你知道的那样,那不是我所质疑的事情。所以,但我认为我们距离这些空间还很远,这些空间非常广阔,就像我所想到的交通机会空间一样。Waymo驱动程序是一种通用技术,我们可以在很多情况下应用它。所以你有一个广阔的绿色空间。在所有未来情景中,我认为特斯拉都会表现良好,而且你知道还有更多公司表现良好。
LexFreedman:就像我们提到的新石器时代包一样,我认为在历史记载中,所谓的人工智能包中,自动驾驶汽车、无人驾驶汽车很有可能成为改变一切的大事。想象一下,在十年或二十年的时间里,从手动驾驶到自动驾驶的彻底转变,我们可能无法预测,它可能会彻底改变我们在世界上的出行方式。这样你就知道了这种可能性,然后是二阶和三阶效应,就像你现在在特斯拉看到的一样,很可能你会在Alphabet内部看到一些也许是Waymo,也许是一些Gemini机器人的东西,它可能会引导你进入机器人的其他领域,因为我们应该记住Waymo是一个机器人。嗯。它恰好是四个轮子。所以你说下一个大事件我们也可以将其纳入AI包。最大的惊喜时刻可能出现在机器人领域。你认为那会是什么样子?
LexFreedman:看到这些模型和不同的团队整合在一起并共同努力构建一个世界模型,真是太好了。从所有这些不同的角度来探讨多式联运。你最终想要获得Gemini。因此,使AI模式能够真正有效地回答你的问题(需要一种世界模型)的因素与帮助机器人在物理世界中发挥作用的因素是同一类的。所以一切都是一致的。
SundarPachai:这就是让这一刻如此独特的原因,因为第一次经营一家公司,你可以以非常深入的横向方式进行一项投资,在此基础上,你可以推动多项业务向前发展,这就是我们在谷歌和字母表中所做的事情,是的,一切都像提前计划好的那样融合在一起,
SundarPachai:就像今天这样,如果你用自己的笔迹写一张卡片并将其发送给某人,那是一件特别的事情。同样,有时候,我的意思是,也许你的朋友写信说他过得不太好,或者其他什么,在那些时候,你想把时间省下来写点东西来联系你,但就像说告诉我你旅行的所有细节,对我来说,让人工智能助手来帮助你是很有意义的,所以我认为两者都很重要,但我认为我对这个方向感到很兴奋,
十一、AI编程
LexFreedman:是的,我认为最终它会给我们人类更多的时间去做我们人类认为有意义的事情。我认为这让很多人感到害怕,因为我们必须问自己一个难题:我们认为什么是有意义的?我确信一定有答案。我认为这是一个古老的问题,存在的意义在于你必须尝试去弄清楚。这可能最终是养育子女或在艺术或写作等某些领域发挥创造力。这对我们来说是一个挑战,
SundarPachai:这是一个很好的问题,问问自己,在我的生活中,什么事情能给我带来最大的快乐和满足,如果我能真正把更多的时间集中在那上面,那真的很有力量。我认为这就是你知道的圣杯。如果你理解正确的话,我想它可以让更多的人发现这一点。
LexFreedman:我必须要问你关于编程方面的问题,人工智能在编程方面确实做得不错。无论是Agentic还是大语言模型(LLM)都令人难以置信。所以,很多程序员真的很担心他们会失去工作,他们应该有多担心,他们应该如何调整,以便他们能够在这个越来越多的代码由人工智能编写的新世界中蓬勃发展?
SundarPachai:我认为,从谷歌的角度来看,我们已经给出了各种统计数据,比如现在30%的代码使用人工智能生成的建议或其他什么,但最重要的指标是,我们仔细测量了由于人工智能,我们公司的工程速度提高了多少,这很难衡量,我们尝试严格衡量它,我们的估计是这个数字现在是10%。就像现在我们整个公司已经使用人工智能实现了10%的工程速度提升,但我们计划明年雇用更多的工程师,因为我们可以做的事情的机会空间也在扩大,所以我希望你知道至少在中期对许多工程师来说,它可以释放越来越多的你知道即使在工程和编码中也有一些方面非常有趣你在设计你架构你解决问题有很多繁重的工作你知道所有这些都是齐头并进的,但希望它能减少很多繁重的工作,使编码变得更有趣,让你有更多的时间与你的同事一起创造解决问题的头脑风暴等等。这就是那里的机会。
其次,我认为它会吸引更多的人,将创造力交到更多的人手中,这意味着人们会创造更多,意味着会有更多的工程师做更多的事情。所以很难完全预测,但你知道,我认为总的来说,在这一刻,感觉就像你知道人们会采用这些工具并成为更好的程序员,就像现在下棋的人比以往任何时候都多。所以你知道这对我来说感觉很积极,至少从谷歌的角度来说,这就是我与他们谈论这件事的方式。
SundarPachai:当我们使代理功能变得更加强大时,最大的解锁将会是,对吗?我认为这就是开启下一波浪潮的契机。我认为10%是一个巨大的数字,就像你知道如果明天我出现并说你可以将一个大型组织的生产力提高10%一样。当你拥有数万名工程师时,这是一个惊人的数字。你知道这与其他网站的统计数据不同,比如现在有百分之多少的代码是由人工智能编写的,我更多地谈论的是整体生产力,实际生产力,对工程生产力,这是两件不同的事情,哪个是更重要的指标,但我认为它会变得更好,就像你知道的,我认为没有哪个工程师明天神奇地将生产力提高2倍,这只会创造更多的东西,你会创造更多增值的东西,所以我认为你会在工作中找到更多的满足感,对吧?所以有很多方面我的意思是,实际的谷歌代码库可能会有所改进,因为它会变得更加标准化,人们更容易在代码库中移动,因为人工智能会帮助解决这个问题,因此这也将使人工智能更好地理解整个代码库,这使得工程方面我一直在使用光标,作为使用Gemini和其他模型进行编程的方式。
LexFreedman:它的强大功能之一是它了解整个代码库,并允许你对其提出问题。它允许代理以非常强大的方式在该代码库中移动。我意思是这是一个巨大的解锁。
SundarPachai:想想你所知道的迁移重构旧煤炭基地。重构。是的。我的意思是,想想看,我们曾经能够以比现在更好、更稳健的方式完成所有这些工作。
LexFreedman:我认为最终一切都将用JavaScript编写并在Chrome中运行。我认为一切都会朝着那个方向发展。我的意思是,只是为了好玩,谷歌有传奇的代码编码面试,就像对工程师的严格面试一样。你如何评价人工智能时代这种情况发生的变化?这真是太奇怪了,我认为白板面试不允许有一些提示。
SundarPachai:这真是一个好问题。我确实认为,我们正在确保,我们将为人们引入至少一轮面对面的面试,只是为了确保基本面存在,我认为这最终会变得重要,但这是一项同样重要的技能。看,如果你能使用这些工具来生成更好的代码,就像你知道的,我认为这是一笔资产。
LexFreedman:所以你知道我认为所以总的来说我认为这是一种非常积极的氛围编码工程师你建议人们对编程感兴趣的学生仍然接受计算机科学和大学教育你认为如果你对计算机科学有热情我会怎么做我会知道计算机科学显然不仅仅是编程。
SundarPachai:所以我仍然不认为我会改变你的追求嗯我认为人工智能将水平地影响每个领域。很难预测会以何种方式发生。因此,我认为,任何学习良好的第一原则思维的教育都是好的教育。
十二、安卓
LexFreedman:你彻底改变了网络浏览方式,这些年来你彻底改变了许多事物。Android改变了游戏规则。这是一个令人难以置信的操作系统。我们可以连续几个小时谈论Android。Android的未来是什么样的?它有可能变得越来越以人工智能为中心吗?,尤其是现在,你将AndroidXR加入其中,能够在物理世界中实现增强现实、混合现实和虚拟现实。是的。当你经历范式IO变革时,计算领域的最佳创新就出现了,对吗?
SundarPachai:就像你知道的那样,当使用GUI时,然后使用图形用户界面,然后在移动语音环境中使用多点触控时,同样地,我觉得你知道AR是下一个范式,我认为它受到阻碍,制作好的AR的系统集成挑战非常非常困难,第二件事是你需要AI才能真正实现,否则IO太复杂了,你无法拥有自然无缝的IO到那个范式AI最终变得非常重要,这就是为什么Astra项目最终对AndroidXR世界至关重要,但我认为当你使用眼镜时,你总是惊讶于这些东西会有多么有用,所以我认为这对Android来说是一个真正的机会,我认为XR是它真正变为现实的一种方式。但我这也有机会重新思考移动操作系统,对吗?我认为我们一直生活在应用程序和快捷方式的模式中,所有这些都不会消失。但是,如果你想在操作系统层面完成工作,它需要更具代理性,这样你就可以描述你想要做的事情,或者让它主动理解你想要做的事情,从你一遍又一遍做事的方式中学习,并适应你。
LexFreedman:所有这些都有点像我们需要去解锁并使用一个基本的、高效的、简约的UI来完成。我有机会试戴了这款眼镜,它们真是太棒了。这些都是小事。很难用语言来表达,但是没有延迟。它确实有效。即使是那个小地图演示,当你向下看和向上看时,两者之间也会有一个非常平滑的过渡,并且会向你显示非常少量的有用信息。足以不分散你对外部世界的注意力,但又足以在你需要时提供一些背景信息。为了将其变为现实,你必须解决许多操作系统问题,以确保在将AI集成到整个系统时它能够正常工作。因此,你所做的每一件事都会启动一个代理来回答一些基本问题。
SundarPachai:一次好的登月计划,你知道,这很疯狂。不,但是我认为我们是的,但它比其他登月计划更接近现实。我们预计今年晚些时候会为开发人员开设课程,明年还会为消费者科学开设课程。所以,这是一个激动人心的时刻。
十三、关于AGI的问题
所有这些发布,以及作为你今年发布的一系列内容的一部分,当那些关于谷歌的精彩文章被撰写时,就已经完成了。就像我们谈论的开创性的自动驾驶汽车和量子计算一样,这可能是另一件低调的事情,那就是水肺潜水。它将永远改变世界。这是另一个ptheads斜线um微型厨房问题。如果你构建了AGI,你会问它什么样的问题?你想谈论什么主题?它在哪儿?你要去哪儿?
SundarPachai:这是一个很好的问题。也许到那时它会主动告诉我一些我应该知道的事情。但我想如果我问这个问题,它会帮助我们更好地了解自己。我想,这会让我们感到惊讶。也许你已经看到人们用产品来做到这一点,但是你知道在AGI环境中,我认为这在个人层面或个人层面的一般人性上会非常强大,就像你与AGI交谈一样,我认为它有可能以一种非常深刻的方式理解你。我认为你深刻地知道这是有可能的。我认为还有一个显而易见的事情,也许它可以帮助我们更好地理解宇宙。这在某种程度上拓展了我们对世界的理解范围。这是一件非常令人兴奋的事情。但看起来我真的不知道。我想你知道我还没有接触过如此强大的东西。但我认为这些都是有可能的。
十四、人类的未来
LexFreedman:我不得不说,就像我做的一些编程是由人工智能完成的,出于某种原因,我对编程更感兴趣,所以知识也是一样,发现关于世界的事物,它让你对活着更兴奋,它让你更好奇,你越好奇,生活和体验世界就越令人兴奋。这很难,我不知道这是否会让你更有效率。它可能远不及你活着时所感受到的快乐。而这是一件很难衡量的事情。这些事情确实会提高生活质量。随着人工智能在人类所做的一切事情上变得越来越好,你认为我们人类最大的特殊之处是什么?
SundarPachai:看,我认为这是人类本质中教授的东西。我们拥有意识,这使得我们成为独一无二的人类。也许随着时间的推移,界限会变得模糊,这很难表达,但我希望我们生活在这样一个世界,如果你让资源更加丰富,随着时间的推移,世界就会不再是零和游戏,对吗?但事实并非如此,但你知道在资源受限的环境中人们认为它是,对吗?所以我希望那些让我们成为独一无二的人的价值观,同理心、善良,所有这些浮现出来的都是我所抱负的希望。
LexFreedman:是的,它不仅增加了同情心,也增加了好奇心,增加了我们对这一切意义的争论。而且我还认为,在科学领域,DeepMind所做的所有令人难以置信的工作,我认为我们仍将继续探索科学问题、数学问题、物理问题,即使人工智能在帮助我们解决某些问题方面越来越好。
SundarPachai:有时问题本身确实很难。既要提出正确的新问题,也要找到这些问题的答案,以及它将推动的自我发现过程,
LexFreedman:我想你知道我们早期与共同科学家和阿尔法进化的工作非常令人兴奋,看到什么给你带来了对人类文明未来的希望,我一直都是一个乐观主义者,你知道,我现在看看,如果你说你踏上了人类文明的旅程。
SundarPachai:我们一直在不懈地以多种方式让世界变得更美好。在任何特定时刻,都有重大问题需要解决。看起来可能如此,但我总是问自己这个问题,你会是现在出生还是在过去的任何时候出生?我通常,不是通常,而是几乎总是宁愿现在出生,对吗?这就是人类文明所取得的非凡成就,对吗?我们一直在努力让世界变得更美好。所以有东西告诉我,作为人类,我们总是共同努力,推动这一前沿不断向前发展。因此我预计未来情况也不会有所不同。
LexFreedman:我完全同意你的看法。我真的很感激活在此刻,我也对未来感到非常兴奋,而你和这里出色的团队所做的工作是我对未来感到兴奋的重要原因之一。所以谢谢你。感谢你开发的所有出色的产品,请不要摧毁GoogleVoice。这真是令人难以置信。感谢你聆听与SundarPachchai的对话。