黄仁勋最新加州理工学院毕业演讲:我最珍视的超能力不是智力,而是这项能力
近日,英伟达创始人、CEO 黄仁勋(Jensen Huang)参加美国加州理工学院第 130 届毕业典礼,并发表了题为 " 迎难而上抓住机会 "(Embrace Challenges and Seize Opportunities)的主题演讲。
黄仁勋畅谈了英伟达(NVIDIA)自 1993 年成立至今经历的计算机技术革命,以及 AMD、英特尔、高通拒绝与英伟达合作的历史,最终不得不退出了与 CPU 厂商的合作,以及能够进入移动设备芯片市场的重要机会。
他强调了在这个过程英伟达是如何一步步地重塑自我,通过图形处理和用于训练人工智能模型(如ChatGPT)的超级计算机,推动先进计算的前沿发展并为行业带来变革。
他通过分享自己在英伟达工作31年的故事,来鼓励毕业生们在巨大变革前要学会灵活应对,保持对工作的执着,坚定地面对挑战。同时希望大家将挫折视为新的机遇。因为痛苦和磨难将强化人的性格、韧性和敏捷性,它们就是我们的终极超能力。
以下是黄仁勋演讲全文的编译:
有多少人知道英伟达?来鼓个掌!有多少人知道GPU是什么?
好的,很好,我不需要改变我的演讲。
女士们,先生们,罗森鲍姆(Thomas F. Rosenbaum)校长,尊敬的老师们,尊敬的来宾们,骄傲的父母们,最重要的是,2024届的加州理工学院毕业生们!
这对你们来说真是开心的一天。你们得表现得更兴奋些。你们即将从加州理工学院毕业了。这是伟大的理查德·费曼(Richard fineman)、莱纳斯·鲍林(Linus Pauling)还有一位非常在我们的行业中对我影响很大的卡弗·米德(Carver Mead)的学校。
今天是无比自豪和快乐的一天,这是你们所有人的梦想成真。不只是你们,因为你们的父母和家人为了见证你们达到这个里程碑做出了无数的牺牲。所以,让我们抓住这一刻,祝贺他们,感谢他们,让他们知道你爱他们。
你不想忘记这一点,因为你不知道你要在家里住多久。你今天要非常感激。作为一位骄傲的家长,我真的很喜欢我的孩子们没有搬出去。每天见到他们真好,但现在他们搬出去了,这让我很难过。希望你们能多陪陪父母。
你在这里的旅程证明了你的品格、决心,愿意为梦想做出牺牲。你应该感到自豪。做出牺牲、忍受痛苦和磨难的能力,这些生活品质是必需的。
你和我有一些共同点。首先,英伟达的两位首席科学家都来自加州理工学院。我今天演讲的原因之一是我正在招聘。所以我想告诉你们,英伟达是一家非常伟大的公司,我是一个非常好的老板,深受大家喜爱。来英伟达工作吧!
你和我都热爱科学和工程,虽然我们相差约40年,但我们都处于我们事业的巅峰期。对于所有关注英伟达和我的人,你们能明白我的意思。只是对于你们而言,你们都有很多很多巅峰要去,我只希望今天不是我的巅峰,不是峰顶。我正在一如既往地努力工作,以确保我前面还有更多的巅峰。
01
去年,我有幸在台湾大学的毕业典礼上发表演讲。我分享了几个关于英伟达发展历程的故事,以及我们从中学到的可能对毕业生很有价值的经验。
我得承认我不喜欢提建议,尤其是给别人的孩子。我今天的建议将会在很大程度上隐藏在我的一些故事和一些我很享受的生活经历。
我相信我是当今世界上任职时间最长的科技CEO。在31年的工作中,我没有破产,没有厌倦,没被炒鱿鱼。
因此,我很荣幸享受了很多人生经历,从创建英伟达至今,所以我谈到了创建CUDA的漫长之路。CUDA是我们花了20多年才发明出来的编程模型,它在当今的计算领域掀起了一场革命。
我谈到了一个公开的、被取消的世嘉游戏机项目,以及知识诚实。我知道理查德·费曼对这个问题了解得很深,也聊了很多。知识诚实和谦逊拯救了我们的公司。战略性撤退是我们最好的策略之一。所有这些都是我在毕业典礼上说过的违反直觉的教训。
我鼓励毕业生们参与我们这个时代最重要的技术——人工智能(AI)。
我稍后会多讲一点。你们都知道AI,很难不被它所吸引,不被它所包围,不被关于它的大量讨论所包围。
当然,我希望你们所有人使用它,摆弄它,得到了令人惊讶的结果,有些是神奇的,有些是令人失望的,有些是令人惊讶的。
但你必须享受它,你必须参与其中,因为它发展得如此之快。这是我所知道的唯一一个同时在多个有利方向发展的技术。
技术变化得非常非常快。我建议台湾大学的学生跑起来,不要走,参与AI革命。一年后,它发生了不可思议的变化。
今天我想做的是从我的角度来分享对你们即将毕业的一些重要事情的观点。
这些是正在发生的不寻常的事情。你们应该有一种直觉,因为这对你很重要,对整个行业也很重要,希望你们好好利用眼前的机会。
计算机行业正在从基础设施开始转型,确切说从螺柱开始,一切都在发生变化,穿过每一层面,很快,每个行业都将发生变革。
原因很明显,如今计算机是最重要的知识工具,是每个科学领域每个行业的基础。如果我们深刻地改变计算机,它当然会影响到每一个行业。我会稍微谈到这一点。当你进入这个行业,了解正在发生的事情是很重要的。
现代计算机可以追溯到IBM System 360,这是我学习的架构手册。
这是一本你不需要学习的架构手册,已经有更好的文档、描述和架构提出了。但System 360在当时是非常重要的。它的基本思想、架构和原则至今仍主导着计算机行业。它是在我出生一年后推出的。
在80年代,我是第一代学会使用的VLSI工程师之一,从卡弗·米德和琳·康维(Lynn Conway)的里程碑式教科书中学会设计芯片。我不确定它是否还在教授,这里教的应该是VLSI系统。
卡弗·米德在加州理工学院编写的教科书,彻底改变了集成电路设计。它使我们这一代人能够设计超级巨型芯片,最终设计出中央处理器(CPU)。CPU导致了计算的指数级增长,摩尔定律推动了技术革命。
我们这一代人参与的工业革命见证了世界上前所未有的大规模生产,看不见的、易复制的东西的大规模生产,软件的大规模生产。它催生了一个价值3万亿美元的产业。
当我坐在你们这个位置上时,IT行业还很小,卖软件赚钱的概念只是幻想。今天,软件是我们行业生产的最重要的技术和产品创造之一。
然而,登纳德缩放、晶体管缩放和指令集并行性的限制降低了CPU性能。CPU性能放缓正发生在计算需求与计算机之间的差距呈指数级增长的时候。如果不解决,计算的能耗和成本,膨胀最终会扼杀所有行业。我们可以清楚看到计算膨胀的迹象。
经过二十年的发展,英伟达的CUDA、英伟达的加速计算为我们指明前路。这就是我来这里的原因。行业终于意识到加速计算的惊人有效性,就在我们目睹几十年后计算膨胀之时。
通过将耗时的算法卸载到专门用于并行处理的GPU上,我们通常会实现10倍、100倍甚至是1000倍的速度提升,从而节省资金、成本和能源。
我们加速了计算机图形、光线追踪、基因测序、科学计算、天文学、量子电路模拟、SQL数据处理,甚至Pandas数据科学。加速计算达到了一个临界点。这是我们对计算机行业、对社会的第一个贡献。
我们提供了一条通往可持续计算的道路,随着计算需求的持续增长,成本将继续下降。加速计算带来100倍、1000倍的时间、成本或能源节省,肯定会在其他地方引起新的发展。
02
直到深度学习进入我们的意识,我们才知道它是什么。
一个全新的计算机世界出现了。杰夫·辛顿(Geoffrey Hinton),亚历克斯·克罗舍夫斯基(Alex Krizhevsky)、伊尔亚·苏茨克维(Ilya Sutskever)使用英伟达CUDA GPU训练AlexNet,并赢得了2012年ImageNet挑战赛,震惊了计算机视觉界。
这是一个重要时刻,深度学习的大爆炸,一个标志着AI革命开始的关键时刻。
我们在AlexNet改变公司后做出的决定是值得注意的。我们看到了深度学习的潜力,并且相信,只是通过原则思考相信,通过我们自己对深度学习可扩展性的分析相信,我们相信这种方法可以学习到其他有价值的函数。也许深度学习是一种通用函数学习器。
有许多问题很难或不可能用基本的第一原理来表达,所以当我们看到这个,我们认为这是一项我们必须关注的技术,因为它可能只受模型和数据规模的限制。
当时也存在挑战。这是2012年刚过不久,如果不构建这些庞大的GPU集群,我们如何探索深度学习的极限?当时我们还是一家小公司,构建庞大的GPU集群可能要花费数亿美元,但如果我们不这样做,就不能保证扩大规模后会有效。
然而,没有人知道深度学习可以扩展到什么程度,如果我们不去构建它,我们永远不会知道。这是其中之一,如果你构建它,它会来吗?我们的逻辑是,如果我们不构建,它们就来不了。
我们根据第一原则相信和分析致力于此,我们相信这是非常有效的,当公司相信某件事的时候,我们应采取行动。因此我们深入研究深度学习,并在接下来的十年里系统地重新发明了一切,重塑了每个计算层,从GPU本身开始。
现代GPU的发明与过去我们最初发明的GPU截然不同,我们继续发明了互连、系统、网络,当然还有软件。我们在未知领域投入了数十亿美元,十年来,成千上万的工程师研究深度学习,在不知道技术能走多远的情况下前进。我们设计并制造了超级计算机,以探索深度学习和AI的学习极限。
2016年,我们发布了DGX-1,我们的第一台AI超级计算机。我把第一台交给了旧金山的一家名不见经传的初创公司,叫作OpenAI。我的一群朋友正在研究AI。
2022年,AlexNet问世十年后,计算能力提高了一百万倍。想象一下如果你的笔记本电脑是现在的一百万倍,会是什么样子?
一百万倍之后,OpenAI推出了ChatGPT,AI成为了主流。在这十年中,英伟达从一家显卡公司转型,你们中的许多人可能第一次知道我们是构建GPU,到现在一家构建大型数据中心级超级计算机的AI公司。
我们彻底改变了公司,我们彻底改变了计算,今天的计算方式已经发生了根本性的变化。现在的计算机堆栈使用GPU来处理在超级计算机上训练的大语言模型,而不是处理程序员编写的CPU指令。
我们现在正在创建能够完成十年前人类无法想象的事情的软件。
计算机现在是意图驱动的,而不是指令驱动的。告诉计算机你想要什么,它会算出来的,它会找到方法的。像人类一样,AI应用程序将理解任务、原因、规划和协调一个大语言模型团队来执行任务。
将来的应用程序所做的和执行的都会与我们做事的方式相似,组建专家团队,使用工具、推理、计划和执行我们的任务。
软件和软件的功能已经完全改变了。甚至我们的行业也在改变和转型中创造了另一个行业,一个前所未见的行业。
一个行业正在我们眼前形成,AI的输入和输出是token。对在座的所有工程师来说,你们都明白我的意思,这些是嵌入智能的浮点数。
公司现在正在建立一个前所未有的新型数据中心,专门生成智能token,本质上是AI工厂。就像过去工业革命中尼古拉·特斯拉(Nicola Tesla)发明的交流发电机,现在我们有了AI token生成器,它们将是新工业革命的工厂。
这里有生产能源、电力的大型工业。我们有一个庞大的产业生产软件。在不久的将来,我们将拥有生产、制造智能token的行业——AI生成器。一种新的计算模式和一个新的产业已经出现了。这都是因为我们从第一原则出发,形成了我们对未来的相信,并付诸行动。
03
AI的下一波浪潮是机器人技术。除了语言模型外,AI还有物理世界模型。我们与数百家公司合作,制造机器人、自动驾驶车辆、搬运机械臂、人形机器人,甚至整个巨大的机器人仓库。
但与我们的AI工厂战略和我们在那里的经验不同,AI工厂战略是通过推理和深思熟虑的行动形成的,而我们的机器人之旅源自一系列挫折。
你们都知道英伟达发明了GPU,这是在我们发明AI工厂之前。
我们对计算机产业的第一个伟大贡献是通过可编程着色器重新发明了计算机图形。我们希望将GPU集成到每台计算机中,因此我们开始把GPU和主板结合起来。
当时我们推出了一款很棒的适用于AMD CPU的集成显卡芯片,我们的芯片业务立刻获得了巨大的成功,几乎一夜之间就赚了十亿美元。
AMD想要控制PC(个人电脑)中的所有技术,而我们想保持独立,所以他们收购了ATI,不再需要我们。
我们转向了英特尔。这可能不是个好主意。但我们转向英特尔并协商了一个连接到英特尔CPU的许可。
苹果对我们正在开发的产品很感兴趣,邀请我们和他们合作开发一款新电脑,这就是第一款MacBook Air。英特尔看到这种情况后不想让我们再这么做,终止了我们的协议。
我们又转变方向。这次我们去拿了Arm的许可,制造了一个低功耗SoC,一个移动SoC。世界上第一个SoC本质上是一台功能齐全的电脑,简直不可思议。我们的芯片令谷歌很兴奋,他们邀请我们开发一种新设备,后来发现就是安卓手机设备。
但高通决定不让我们这么做。他们不希望我们连接到他们的调制解调器上,而如果不连接到调制解调器上,就很难制造一款移动设备。当时也没有其他先进的调制解调器公司,所以我们不得不退出移动设备市场。
这种情况几乎一年发生一次。我们会创造一些东西,它会取得巨大的成功,引起极大轰动,然而一年后,我们被踢出这些市场。
由于没有更多的市场可供选择,我们决定建立一个我们确信不会有客户的地方。因为有一件事你一定能肯定,那就是没有客户的地方,也就没有竞争对手。没人关注你。
所以我们选择一个没有客户的市场,一个0亿美元市场。
机器人就是那样的市场。我们构建了世界上第一台机器人计算机,处理一种当时没人理解的算法,即深度学习。这是十多年前的事了。十年后,我对我们所创造的一切和有机会创造下一波AI浪潮感到无比高兴。
更重要的是,我们培养了敏捷性和韧性文化。
一次又一次,我们摆脱了挫折,抓住下一个机会。每一次我们都获得了技能和增强了性格。我们增强了我们的企业性格。我们公司很难分心,很难气馁。这些日子我们遇到的任何挫折都不像是机会。
讽刺的是,我们今天制造的机器人计算机甚至不需要图形,这就是我们的旅程开始的原因。
所以我们今天所处的位置告诉了我们一些事情,也教会了我们一些东西。
正如理查德·费曼所说的那样,世界可能不公平,给你发烂牌,赶快摆脱它吧。显然你把很多注意力放在书本上了。赶快摆脱它。来吧。
这很聪明。我让自己笑了。
还有另一个机会——或者创造一个机会。
04
让我再告诉你一个故事。
我过去每年夏天都会在我们的一个国际站点工作一个月。当我们的孩子十几岁时,我们在日本过暑假。在一个周末,我们参观了京都和银阁寺。如果你还没有机会去,你一定要去。它以精致的苔藓花园而闻名。
那是一个典型的夏日,闷热潮湿又粘稠。热气从地面散发出来,空气很浓,很静止,我们和其他游客穿过精心打理的苔藓花园。
我注意到那位孤独的园丁,现在记住,苔藓花园,这是银阁寺,和这个庭院差不多大,它几乎收藏了世界上所有种类的苔藓,而且保存得非常完好。我注意到那位孤独的园丁蹲在那儿,小心地用一根竹镊子摘青苔,然后把它放进竹篮里。
只有这一位园丁,篮子看起来是空的。有那么一刻,我还以为他在从一堆假想的死苔藓中摘选想象的苔藓。
于是我走到他面前,问他:“你在做什么?”
他用英语说:“我在摘死苔藓,我在照料我的花园。”
我说:“但你的花园如此大。”
他回答说:“我照料我的花园已经25年了。我有充足的时间。”
那是我人生中最深刻的感悟之一,它真的教会了我一些东西。这位花匠专心于他的手艺,做着他毕生的事业。当你这样做的时候,你就有充足的时间。
我每天早上都要以同样的方式开始做事,我每天早上都从最重要的工作开始,我有一个非常明确的优先级列表,我从优先级最高的工作开始。
在我开始工作之前,我的一天就已经成功了。我已经完成了我最重要的工作,并且可以把我的一天奉献给帮助别人。当人们为打断我而道歉时,我总是说,我有足够的时间。我确实是的。
2024届的毕业生们,我很难想象会有谁比你们更能对未来做好准备。
你们全身心投入,努力工作,在世界上最负盛名的学校之一获得了世界一流的教育。当你们进入下一个阶段,请吸取我的经验教训,希望它们能一路帮助你。
我希望你们相信一些东西,一些非传统的、未被探索过的东西。但要让它变得明智、合理,并致力于实现它。你们可能会找到自己的GPU,你们可能会找到自己的CUDA,你们可能会找到自己的生成式AI,你们可能会找到自己的英伟达。
我希望你们把挫折看作是新的机会。痛苦和磨难会锤炼你的性格,韧性和敏捷性,它们是终极的超能力。
在我最珍视的能力中,智力不是最重要的。我忍受痛苦和磨难的能力,我长时间工作的能力,我应对挫折的能力和看到即将到来的机会的能力,我认为这些是我的超能力,我希望它们也是你的。
我希望你能找到一门技艺,第一天就决定并不重要,很快做出决定并不重要。但我希望你能找到一门技艺,你想用一生去完善它,磨练技能,让它成为你一生的事业。
最后,优先考虑你的生活。有很多事要做。但优先安排你的生活,你就会有充足的时间去做重要的事情。
恭喜,2024届毕业生们,去找到它们!
大不列颠《全景图解百科全书》
▍往期回顾
黄仁勋预言新工业革命已经开始:这一次,中国“应试教育”真的走到尽头了…
出生台湾,泰国度过童年,9岁送到美国,AI大王黄仁勋从不会说英语、刷厕所到身价近700亿美元,经历了什么?
微信扫码关注该文公众号作者