量子位 | 公众号 QbitAI
接近两个小时，正面回答对于英伟达一齐在大模子时间涨到4万亿好意思元市值的种种问题。
黄仁勋在“硅谷最受宽容播客”的全新访谈，信息量有点高。
视频发布半天，单在油管上的不雅看量照旧高出10万+。
网友还锐评：很少看到黄仁勋这样粗莽。🤣
太长不看版，要点条记放在这里了：
输入是电子，输出是Token，在这中间是英伟达。
AI不会使软件变得低价、同质化，Agent的普及会快速提高用具部署率，带来更高速的增长。
TPU对英伟达莫得挟制。英伟达GPU让新算法的发明变得容易。
英伟达莫得更早投资OpenAI等，是“领路有误”，亦然“无可如何”。
英伟达的玄学是“必须作念的事，但越少越好”。
英伟达从不作念加钱就先给GPU的事。
即使莫得深度学习，英伟达依然会专注加快算计。
更多细节，万字实录在此送上（内含老黄热烈反驳）。
英伟达的护城河
（播客主合手东谈主Dwarkesh Patel发问以下简写为Q）
Q：软件公司正在资格估值暴跌，因为东谈主们认为AI会使得软件变得低价。一个可能显得天果真不雅点是：英伟达从根底上是在作念软件，而制造由其他东谈主完成。要是软件变得低价，英伟达会不会也失去护城河？
黄仁勋：归根结底，必须有某种东西将电子转机为Token。
这种从电子到Token的转机，以实时分让Token变得更有价值的过程，是很难变得同质、低价的。
从电子到Token的旅程是如斯不能想议。让一个Token比另一个更有价值，其中干预的艺术、工程、科学和发明是不言而谕的。咱们正在实时见证这一过程，而其中所触及的一切还远未完全被意会，这一旅程远未扫尾。我其实对你所说的假定是否会发生合手怀疑魄力。
虽然，咱们会让这一过程更高效。你发问的方式碰劲是英伟达运营的精神模式：输入是电子，输出是Token。在这之间即是英伟达。
咱们的办事是付出必要的勤苦，同期尽可能少地打扰，以完毕这种转机才略的最大化。所谓“尽可能少地打扰”，意味着不是必须要咱们作念的事，咱们就交给配合资伴，让其成为生态系统的一部分。
今天的英伟达领有最大的配合资伴生态系统，包括凹凸游供应链、通盘的算计机公司、应用开发者和模子制造者。
可以把AI看作一个五层蛋糕，咱们的生态系统隐敝了每一层。咱们尽可能作念更少的事，但事实解释，咱们不得不作念的那部分难度特殊巨大。我不认为这个部分会变得同质化。
履行上，我也不认为软件公司、用具开发者会失去护城河……如今大多数软件公司齐是用具开发者。举例，Excel是用具，PowerPoint是用具，Cadence制造用具，Synopsys也制造用具。我和寰球的看法碰劲违反，我认为Agent的数目将会呈指数增长，用具的用户数目也会呈指数增长。这些用具部署数目很可能会激增。
今天，咱们受限于工程师的数目。但畴昔，会有大量Agent来支合手工程师，以前所未见的方式去探索筹算空间，而今天咱们所使用的用具并不会被毁灭。
我认为用具的普及会使软件公司赶紧增长。之是以还莫得完全发生，是因为Agent在使用这些用具时还不够高效。要么这些公司我方会构建Agent，要么Agent会进化到能够高效使用这些用具。我认为两者会集结在全部。
Q：在你们最近的呈文文献中，英伟达在代工场、内存和封装等方面的采购承诺接近1000亿好意思元。SemiAnalysis说你们的干系采购承诺履行上达到2500亿好意思元。
有一种解释是，英伟达的护城河其实在于你们提前锁定了这些稀缺组件的供应链。这是否是英伟达接下来几年间最大的护城河？
黄仁勋：这是咱们能作念到但别东谈主很难作念的事情。
咱们在上游作念了巨大的承诺。有些承诺是显性的，比如您提到的这些采购合同。而有些承诺则是隐性的，举例好多上游的投资是由咱们的供应链配合资伴推动的，因为我会对这些厂商的CEO说：“让我来告诉你这个行业范围会有多大，让我向你解释原因，让我跟你全部推演，并展示我所看到的。”
通过这种方式，我胁制地向不同领域上游产业的CEO们传递信息、激发他们并与他们达成一致。这样一来，他们景象进行投资。为什么他们景象为我投资，而不是其他东谈主？因为他们知谈，我有才略继续他们的供应，并通过我的下流销售出去。
事实是，英伟达的下流供应链以及需求范围特别远大，他们景象为此投资。
要是你参加过GTC，你会对它的范围和与会者数目感到诧异。那是一个完整的360度全景，会聚了东谈主工智能的通盘这个词六合。寰球聚在全部，因为他们需要彼此了解。我把他们集合在全部，让下流能够见到上游，让上游能够见到下流，同期寰球还可以看到东谈主工智能的最新进展。最弥留的是，他们还可以见到那些东谈主工智能原生公司和初创企业，并亲眼目击我告诉他们的一切。我把大量时分用于向咱们的供应链、配合资伴和生态系统径直或蜿蜒地传递关联畴昔契机的信息。
有东谈主老是说：“黄仁勋，你的大多数主题演讲即是一个接一个的发布。”事实上，我的演讲中总有一部分很“折磨东谈主”，简直像在上课。我是成心的，我需要确保咱们的通盘这个词供应链——不管是上游如故下流——齐了解正在发生的变化，意会这些变化为什么会发生、何时发生以及范围多大，并能像我一样系统性地推理出来。
回到护城河的问题，咱们正为畴昔作念准备——要是畴昔几年咱们的业务范围达到一万亿好意思元，咱们的供应链照旧为此作念好了准备。要是莫得咱们的商场隐敝率和业务驱能源……正如现款流有其开通性一样，供应链也存在其流动性。要是莫得裕如频繁的业务流动性，就莫得东谈主会景象建立供应链来支合手架构上的推广。咱们能够承受这样大的范围推广，是因为咱们下流的需求特别远大。而寰球照旧亲目睹证了这少量。这使咱们能够以刻下的范围去完成咱们所作念的一切。
Q：我想更具体地了解上游是否能够跟上需求。畴昔的几年中，你们的年收入胁制翻倍，你们向全球提供的浮点运算才略（flops）增长更是高出了三倍。
黄仁勋：在刻下这种范围下作念到收入翻倍确乎令东谈主难以置信。
Q：确乎如斯。但当咱们谈到逻辑芯移时，你们是台积电N3节点的最大客户，同期亦然N2节点的主要客户之一。据SemiAnalysis展望，本年AI将占N3产能的60%，而来岁将达到86%。在这种情况下，要是你们照旧占据了多数产能，若何继续完毕翻倍增长？刻下是不是处于这样一种情景：AI算力的增长率必须因为上游而放缓？你们是否看到了绕开这个问题的方法？咱们如何让晶圆厂的产能每年增长1倍？
黄仁勋：从某种进程上来说，瞬时需求照旧高出了全球上游和下流的供应总量。在职何时刻，咱们齐可能被“水监工”的数目所限度，这确乎会发生。
Q：那来岁的GTC大会应该邀请水监工们来参会（笑）。
黄仁勋：这个主意可以（笑）。但领有超越行业供应才略的需求是善事。澄莹，情况违反的话就不妙了。要是供应和需求之间的差距过大，行业会迅速向缺口团员。举例，你会发现，刻下简直没东谈主再评述CoWoS封装时期了。
Q：为什么？
黄仁勋：原因在于畴昔两年行业照旧对此进行了大量投资，其范围以致翻倍增长了几次。刻下咱们在这方面处于相等可以的情景。台积篆刻下知谈，CoWoS的供应才略必须跟上逻辑芯片和内存的需求。他们正在把CoWoS和畴昔的封装时期推广到和逻辑芯片同步发展的水平。这特别棒，因为也曾一段时分里，CoWoS和HBM内存时期还被视为一种“特种时期”。但刻下它们照旧成为主流算计时期。
虽然，刻下咱们能够更无为地影响供应链。AI改进的早期，我就照旧在说我刻下说的好多话了。其时，有些东谈主信托并为此进行了投资，比如好意思光的桑杰（Sanjay）和他的团队。我对那次会议印象特别深刻，我明晰地讲述了为什么事情会这样发生以及对畴昔的展望。而他们果真加倍干预了，与咱们在LPDDR和HBM内存领域建立了配合。这无疑为他们公司带来了巨大的发展。有一些东谈主来的稍晚，但刻下他们也齐到场了。
咱们对每一个瓶颈问题齐给以了极大的关注。刻下咱们在提前几年预判这些瓶颈。举例，畴昔几年内咱们与Lumentum、Coherent以及硅光子生态系统的配合投资，确乎重塑了供应链。咱们围绕着台积电建立了完整的供应链，在COUPE神态上与他们配合，发明了一堆新时期，并将专利授权给供应链以保合手其通达性。
咱们通过新时期、新办事经过、新检测诱骗以及投资，来匡助配合资伴推广产能。你可以看到，咱们正试图通过生态系统的建构，确保供应链能够支合手这种范围化的发展。
Q：看起来有些瓶颈比其他的更容易处分。将CoWoS推广到更大范围可能相对容易——
黄仁勋：趁机说一下，我挑了最难的一个例子。
Q：哪个？
黄仁勋：管谈工和电工。
这亦然我对某些“末日论者”感到担忧的少量，这些东谈主老是在描写办事被完毕，岗亭将隐藏的问题。要是咱们劝东谈主们不要作念软件工程师，那咱们将会濒临软件工程师短缺的问题。
相似，十年前也有东谈主作念过访佛的展望，那时一些悲不雅主义者说：“不管你作念什么，齐不要成为辐射科医师。”你刻下可能还能在网上找到那些说辐射科医师这个处事会当先隐藏的视频。但刻下发生了什么？咱们恰恰穷乏辐射科医师。
Q：回到之前对于某些瓶颈更容易处分的问题。如何每年制造2倍的逻辑芯片？逻辑芯片和内存芯片的推广受到极紫外光刻（EUV）的限度。如何作念到每年2倍增长？
黄仁勋：这是可以快速推广的。这些齐不难，只需要需求信号。一朝你能够造一个，就可以造十个，接着就可以造一百万个。通盘这些齐很容易复制。
Q：你们会介入多深？会去和ASML疏通吗，告诉他们：“望望三年后的需求吧。为了让英伟达每年完毕2万亿好意思元的营收，咱们需要更多EUV光刻机。”
黄仁勋：有些我得径直启齿，有些则是蜿蜒完毕的。比如我劝服了台积电，ASML当然会被劝服。关节是咱们必须推敲关节瓶颈。但只消台积电被劝服了，几年内你就会看到裕如的EUV诱骗。
我的不雅点是，莫得哪个瓶颈会合手续高出两三年。
与此同期，咱们在进步算计着力方面也在取得巨大跳跃。举例，Hopper到Blackwell架构的着力进步达到30-50倍。因为CUDA的机动性，咱们能够开发出全新的算法。此外，咱们在提高算计着力的同期也在增多产能。这些问题对我来说齐莫得那么值得顾忌。实在带来风险的是下流问题，比如限度能源推广的战略。莫得能源，你不能能建立一个工业；莫得能源，你不能能建立一家新的制造企业。
咱们要重塑好意思国的工业。咱们但愿带回芯片制造、算计机制造和封装工艺；咱们但愿建造新的东西，比如电动车、机器东谈主；咱们但愿建造AI工场。但你无法在莫得能源的情况下完成这些，况且这些问题齐需要很永劫分去处分。比较之下，芯片产能的问题只需要2-3年即可处分。CoWoS产能推广亦然2-3年的事。
Q：很敬爱。我以为我邀请的嘉宾未必会抒发完全违反的不雅点。在这种情况下，我欠缺时期学问来判断。
黄仁勋：好音讯是你刻下在和一位内行交谈（笑）。
TPU莫得挟制，英伟达在“再行界说算计方式”
Q：我有一个对于竞争敌手的问题。天下上排行前三的AI模子中有两个——Claude和Gemini，齐是在TPU上锤真金不怕火的。这对英伟达畴昔意味着什么？
黄仁勋：咱们构建的东西与TPU特别不同。
英伟达构建的是加快算计（Accelerated Computing），而不是只是一个张量处理单位（TPU）。
加快算计可以用于万般用途：分子能源学、量子色能源学、数据处理、数据框架、结构化数据和非结构化数据。它还用于流体能源学和粒子物理学。此外，咱们也用它进行AI算计。
加快算计愈加万般化。尽管今天寰球齐在评述AI，况且AI的确特别弥留且具有潜入影响，但算计的范围远比这更无为。
英伟达再行界说了算计的方式，从通用算计过渡到加快算计。咱们的商场隐敝范围远重大于任何TPU或ASIC（应用专用集成电路）能够达到的水平。咱们是唯逐一家能够加快万般应用的公司。咱们领有一个远大的生态系统，是以万般框架和算法齐能在英伟达的平台上运行。
另外，大多数自建系统齐不是为便捷他东谈主操作而筹算的。咱们的系统之是以无处不在，包括在Google、Amazon、Azure和OCI（Oracle云基础设施）上，是因为任何东谈主齐可以使用咱们的系统进行操作。
要是你想通过租借方式运营这些算计才略，你最佳有大范围的、多行业的客户生态系统来消化这些资源。要是你想私用，咱们澄莹也可以匡助你操作这些算计系统，比如咱们为Elon Musk的xAI提供支合手。而由于咱们能够支合手任何公司和任何行业的运营商，你可以将它用于打造专门用于科学推敲和药物发现的超等算计机，比如Eli Lilly。咱们可以匡助他们操作我方的超等算计机，用来加快药物发现和生物科学的通盘这个词万般化经过。
有大量应用场景是TPU无法隐敝的。英伟达把CUDA打形成一个出色的张量处理单位，但它也能处理数据处理、算计、AI等的通盘这个词生命周期。咱们的商场契机更广，隐敝面更大。因为咱们支合手天下上通盘类型的应用，你可以在职何所在建立英伟达系统，并确信它会有客户需求。这是一个完全不同的想法。
Q：接下来是一个长问题。你们的营收特别惊东谈主，而这些钱并不是来克己药或者量子算计领域。之是以能有每季度600亿好意思元的收入，是因为AI是一种史无先例的时期，其增长速率也相似前所未有。
是以问题是，对于东谈主工智能而言，究竟什么才是最合适的取舍？我对细节不熟，但和我的AI推敲员一又友交流时，他们说：“望望TPU吧，它是一个大型的行列式阵列，特别顺应实践矩阵乘法，而GPU则特别机动。GPU在有大量分支或非章程内存打听时发达优异。”
但AI实质是什么？它只是一次又一次地进行可展望的矩阵乘法。你不需要为warp救援器或线程和内存组之间的切换滥用任何芯单方面积。而TPU确乎针对当下AI算计的主要增长需乞降用例进行了优化。我想知谈你对此有何通知。
黄仁勋：矩阵乘法确乎是AI的弥留部分，但它并不是全部。要是你想开发一种新的把稳力机制，以不同方式解耦，或者发明一种全新的架构，比如搀杂SSM（情景空间模子），你就需要一个通用可编程的架构。要是你想构建一个和会扩散模子和自转头模子，你也需要一个通用可编程的架构。咱们可以运行你能设想到的一切。这是咱们的上风：咱们的架构让新算法的发明变得容易，因为它是一个可编程的系统。
发明新算法的才略恰是推动AI快速跳跃的实在原因。像TPU这样的诱骗相似受到摩尔定律的限度，增速约为每年25%。而唯一能完毕10倍或100倍跃升的方法，即是从根底上改动算法和算计方式。
这是英伟达的中枢上风。咱们之是以能完毕从Hopper到Blackwell 50倍的性能改进……当我第一次文书Blackwell比Hopper的能效高出35倍时，莫得东谈主信托。其后Dylan写了一篇著述指出我其实“成心保守”了，履行是50倍。这根底不能能只是依赖摩尔定律来完毕。咱们处分这个问题的方法是通过新模子，比如MoE，在算计系统中并行化、解耦并散播式完毕。莫得CUDA的支合手，要开发这样的新内核简直是不能能的。
咱们的上风在于，凤凰彩票官网首页 - Welcome英伟达的架构具备编程机动性，同期咱们亦然一家极具协同筹算才略的公司。咱们以致可以将一些算计卸载到算计架构中，比如NVLink；或者集成到采蚁合，比如Spectrum-X。咱们能够同期影响处理器、系统、架构、库和算法的各个顺序。要是莫得CUDA，我以致不知谈该从哪驱动开发。
Q：这触及到一个敬爱的问题，即对于英伟达客户群的本性。刻下，你们60%的收入开始于五大超等云服务商。在一个不同的时间，面对不同的客户——比如作念实验的教养们，他们需要的是CUDA。他们无法使用其他加快器，只需要运行配备CUDA的PyTorch，并确保一切齐可以到手被优化。
但这些超等云服务商有裕如的资源来编写我方的内核。履行上，为了获取他们特定架构所需的终末那5%的性能，他们必须这样作念。Anthropic和Google照旧转向他们我方的加快器，比如TPUs和Trainium。即使是使用英伟达GPU的OpenAI，也开发了像Triton这样的用具，因为他们需要我方的内核。从CUDA C++到cuBLAS和NCCL，他们领有一个完整的寂寞栈，况且能够编译到其他加快器上。
在大多数客户可以并履行在构建CUDA替代品的情况下，CUDA是否仍然是让前沿AI领域依然取舍英伟达的关节？
黄仁勋：CUDA是一个丰富的生态系统。要是你想在职何算计机上开发软件，当先取舍CUDA齐备是灵敏的取舍。因为生态系统如斯丰富，咱们支合手每一个开发框架。要是你想创建自界说内核…… 比如咱们对Triton有巨大孝敬。Triton的后端包含了大量英伟达的时期。
咱们特别乐意匡助每个框架变得完满无缺。市面上有好多好多框架，比如Triton、vLLM、SGLang，以及更多新兴的强化学习框架，比如verl和NeMo RL。对于后锤真金不怕火和强化学习，这片领域正在快速爆发式增长。是以要是要在一个架构上构建，基于CUDA是最理智的取舍，因为你知谈这个生态系统是健硕且靠谱的。
你会知谈要是出了问题，简略率是在你的代码中，而不是在底层那一大堆代码里。别忘了，当你在构建这些系统时，要面对的代码量是巨大的。当某些东西无法办事时，是你出问题了，如故算计机有问题？你会但愿永恒是你出错了，况且信托算计机的健壮性。虽然，咱们我方的系统也有问题，但它照旧过深度的优化，你至少可以在这个可靠的基础上构建。这是第少量：生态系统的丰富性、可编程性和才略。
其次，要是你是一个开发东谈主员，在构建任何东西时，最弥留的事情即是装置基础。你但愿我方开发的软件能运行在好多其他算计机上。你开发的软件不单是是为我方构建的，还要给我方的团队以致其他团队使用。要是你是一位框架开发者，英伟达的CUDA生态系统即是一个无价的硬件与软件宝库。
天下上部署了数亿英伟达GPU，每个云平台上齐有它。A10、A100、H100、H200，万般L系列及P系列诱骗，种类宽敞，形态各别。咱们基本上无处不在。这种远大的装置基础意味着，一朝开发完成，你的软件或模子就能辞天下上任何所在运行，这种价值是不能预计的。
终末，咱们在云平台上的普及率也让咱们实在唯独无二。要是你是AI公司或开发东谈主员，不细目将与哪家云服务供应商配合，或者不细目在何处运行系统，英伟达的系统可以隐敝通盘所在——包括径直在你们公司里面运行。这种生态系统的丰富性、装置基础的无为性，加之机动的部署模式，使得CUDA不能替代。
Q：这确乎有风趣。我感兴味的是，这些上风对你们主要的客户来说是否依然显得那么弥留。对于大部分产业中的用户，这可能特别弥留。但对于履行上能够构建我方软件栈的客户——这类客户占你们收入的大头，尤其在一个AI越来越健硕的天下里……问题最终变成了：要是超大范围的企业齐能编写我方的内核，而不是依赖CUDA，英伟达还能否保管刻下的利润率？
黄仁勋：咱们公司分拨在这些AI实验室里的工程师数目是惊东谈主的。
咱们为他们合手续优化他们的软件栈，原因在于莫得东谈主比咱们更了解我方架构的复杂性与细节。
这些架构不像CPU那么“通用”。CPU就像一辆凯迪拉克，运行安祥，性能莫得顶点升沉，任何东谈主齐能很好地驾驶它。但英伟达的GPU和加快器更像一级方程式赛车。我可以设想每个东谈主齐能够以100英里/小时的速率驾驶这些GPU，但要实在跑出极限，就需要极高的专科学问。咱们也使用大量AI来优化咱们现存的内核库。
我很细目在畴昔很长一段时安分，咱们的专科学问对于配合的AI实验室来说依然不能或缺。咱们时时能够让他们的软件栈优化再优化，使性能进步1至2倍。未必优化一个特定内核，性能能径直进步2倍或3倍。这种进步对于运行大量Hopper或Blackwell诱骗的客户来说辱骂常弥留的，因为它们径直增多通盘这个词设施的着力，相应地提高客户的收入。
毫无疑问，英伟达的算计软件栈在性能总领有成本（TCO）方面是天下上最优的。莫得任何单个平台可以提供比咱们更高的性能-TCO比例。基准测试就在那里，我饱读动TPU或Trainium使用InferenceMAX、MLPerf来展示他们所谓惊东谈主的推理成本上风，但没东谈主景象出来展示。从第一性旨趣来说，这根底不对理。
我认为咱们之是以如斯告成，原因很简便：咱们的总领有成本（TCO）特别出色。
其次，你提到咱们60%的客户来自五大云算计公司，关联词其中大部分业务其实是面向外部客户的。
他们之是以取舍咱们，是因为咱们领有健硕的客群隐敝才略。咱们能为他们带来全球最出色的客户。这些客户取舍英伟达，是因为咱们特有的无为隐敝与多功能性。
我认为飞轮效应来自几个方面：咱们的装置基础，咱们架构的可编程性，咱们生态系统的丰富性，以及大量AI公司的存在。
刻下有千千万万家AI公司。要是你是这些AI初创公司之一，你会取舍哪种架构？你会取舍全球最普及的架构——那即是咱们。你还会取舍领有最远大装置基础的架构——那亦然咱们。还有一个领有丰富生态系统的架构——这亦然英伟达额外的上风。
是以，这即是飞轮所在。咱们告成的中枢原因包括：
第一，性能与成本的上风。咱们的每好意思元性能特别出色，客户的成本最低。
第二，能效上风：咱们的每瓦性能是全球最高的。要是一家公司建造了一个1GW的数据中心，这个数据中心必须能够带来最大化的收益和尽可能多Tokens，这径直转机为收入。而咱们领有全球每瓦Token最多的架构。
终末，要是你的方针是出租基础设施，咱们领有全球最多的客户。
Q：敬爱。我认为问题的关节在于商场结构到底是什么样的。也许会存在这样一个天下，斗鱼体育app有千千万万家AI公司，它们的算计量份额约莫很是。但从五大云服务商的角度看，履行上使用这些算计资源的是Anthropic、OpenAI，以及有才略我方构建万般加快器的大型基础模子实验室。
黄仁勋：不，我认为你的假定是缺欠的。
Q： 也许吧，但让我问你一个稍稍不同的问题。
黄仁勋：不，让我改良你的假定。
Q：好。让我换个问题问你。
黄仁勋：但仍要保证让我改良这个假定。因为这对AI太弥留了，对科学的畴昔太弥留了，对行业的畴昔也太弥留了。这个假定……听我说——
Q： 让我先完成问题，然后咱们可以全部探讨这个话题。
黄仁勋：好的。
Q： 要是对于价钱、性能和每瓦性能等这些方针是果真，那么你若何看这样一件事情？比如说，Anthropic最近刚刚文书，他们与博通和谷歌达成了一份多吉瓦级别的TPU算计左券，他们的大多数算计齐是通过TPU完成的。
澄莹，对于谷歌来说，TPU提供了主要的算计资源。而阐发我的不雅察，这些大型AI公司，似乎他们的大部分算计资源……也曾是完全依赖英伟达的，但刻下不是了。是以，要是这些参数数据在纸面上齐是果真，你若何看这些公司仍然取舍其他加快器的情况？
黄仁勋：Anthropic是一个特殊案例，不是一个趋势。要是莫得Anthropic，TPU还会有增长吗？完全靠Anthropic撑合手。要是莫得Anthropic，Trainium会有增长吗？完全亦然靠Anthropic。这里不是说有大量的ASIC契机，而是惟有一个Anthropic。
Q： 关联词OpenAI和AMD之间的配合……他们正在自研我方的Titan加快器。
黄仁勋：是的，关联词咱们齐可以承认，OpenAI的主要算计依然依赖英伟达。咱们仍在大量配合。
我并不选藏其他公司尝试使用不同的东西。要是他们不试试这些家具，他们若何会知谈咱们的有多好？咱们也需要被领导，必须胁制勤苦，本领保管咱们今天的地位。
老是会有夸大的说法。关联词，望望畴昔被取消的ASIC神态数目。要作念出比英伟达好的家具并阻遏易。其实也并不理智。虽然英伟达坚信会有遗漏的所在，在咱们的范围和速率上，咱们是唯逐一家每年齐在大幅度推动时期跃升的公司——每一年。
Q： 我想他们的逻辑可能是：“嘿，这些家具不需要更好，只消不比英伟达差70%就可以了”，因为从你们这买要支付70%的利润。
黄仁勋：别忘了，即使是ASIC，利润率也特别高。假定英伟达的利润率是70%，ASIC的利润率也接近65%。你到底省了些许？
Q：你是指博通？
黄仁勋：是的。你总要给某家公司支付用度。从我所了解的数据来看，ASIC的利润率特别高。他们我方也这样认为，况且惊东谈主的ASIC利润率感到自傲。
很久以前，咱们并莫得才略作念这样的事情。其时，我并莫得深刻认识到，建立一个像OpenAI或Anthropic这样的基础AI实验室是何等艰巨，他们需要供应商作念出巨大的投资。咱们其时无法提供数十亿好意思元的投资让Anthropic使用咱们的算计资源，但谷歌和AWS可以。他们在早期干预了无数资金，使Anthropic最终使用了他们的算计资源。而其时咱们没法作念到。
我的子虚在于莫得深刻认识到AI实验室们别无取舍，风险投资公司永远不会向一个实验室投资50-100亿好意思元。不外即使我明白这少量，我认为其时咱们也无法作念到。好在我不会再犯相似的缺欠了。
我很欢笑能投资OpenAI，并匡助他们推广。我也很欢笑其后Anthropic找到咱们时，咱们能够投资支合手他们。畴昔咱们作念不到，要是能重来——要是其时的英伟达有咱们今天的范围——我将十分乐意这样作念。
英伟达为什么不作念超等云服务商？
Q：这确乎很故风趣。多年来，英伟达一直是AI领域收获最多的公司。刻下你们在进行投资，据报谈，你们照旧向OpenAI投资了高达300亿好意思元，向Anthropic投资了100亿好意思元。而刻下，他们的估值照旧显赫增长，我信托它们还会继续增长。
是以，在这些年里，你们一直为这些公司提供算力，你们能看到它们的发展标的。几年前，以致就在一年以前，他们的估值仅是刻下的十分之一，而其时你们手头有充裕的现款。按理说，有一种可能是，英伟达我方可以打造一个基础推敲实验室，进行无数投资让这一切成为可能，或者在高额估值之前更早完成你们刻下所作念的来回。我很好奇，为什么不早点作念呢？
黄仁勋：咱们在能够作念到的时候就当场作念了。要是更早具备条款，我也景象更早去作念。但当Anthropic需要咱们这样作念的时候，咱们并不具备条款。这在其时对咱们来说也不是一个合理的取舍。
Q：为什么？是因为资金问题吗？
黄仁勋：是的，投资范围的问题。那时咱们从未对外部公司进行过投资，尤其是这样大范围的投资。其时咱们莫得认识到这是必要的。我一直认为他们可以像其他公司一样去找风投融资。但他们想要完毕的方针并不是通过风投就能完成的。OpenAI想要完毕的方针也无法通过风投达成。我刻下认识到了，但其时并不了解。
不外这亦然他们的灵敏之处。他们早就认识到必须这样作念。我很欢笑他们其时作念出了这样的取舍。尽管这导致了Anthropic不得不去找别东谈主，但我仍然为他们存在而感到欢笑。Anthropic的存在对于天下来说是件善事，我由衷为此感到鼎沸。
Q：虽然，你们仍然赚了好多钱，而且每个季度赚得越来越多。
黄仁勋：即便如斯，仍然可以有缺憾。
Q：那问题依旧存在——刻下你们手头有大量资金，况且一直赚更多的钱，你们应该用这些资金来作念什么？一个谜底是，一个中间商生态系统正在崛起，他们使得这些推敲实验室将资金性开支转为运营性开支，以便这些实验室可以租用算计资源。芯片特别富贵，但它们在生命周期内能产生巨大的价值，因为AI模子正变得越来越健硕。英伟达有裕如的资金来承担这样的成人道开支。履行上，据报谈，你们为CoreWeave提供了多达63亿好意思元的支合手，并向其投资了20亿好意思元。
那么，为什么英伟达不我方成为一家云服务商，我方租借这些算计资源？
黄仁勋：这是公司玄学问题。英伟达应作念“必须作念的事，但越少越好”。这意味着，咱们正在构建算计平台的办事是这样的：要是咱们不去作念，我由衷信托就不会有东谈主去作念。
要是咱们不像刻下这样构建NVLink、不像刻下这样构建通盘这个词时期栈、不像刻下这样建立通盘这个词生态系统，要是咱们莫得在畴昔20年里坚合手竖立CUDA——那段时分大部分齐是亏钱的——要是咱们莫得作念这一切，就不会有东谈主去作念。
要是咱们莫得创建通盘CUDA-X库，使它们面向特定领域……十多年前，咱们驱动着眼于领域专用的库。咱们认识到，要是咱们不创建这些库，不管它们是用于光泽跟踪、图像生成如故早期AI的发展，那么数据处理、结构化数据处理、向量数据处理这些时期齐不会存在。咱们以致为算计光刻创建了叫作念cuLitho的库。要是咱们不创建它，也不会有东谈主来作念。是以，要是咱们不作念这些办事，加快算计不会取得今天这样的进展。
是以，这是咱们必须作念的事。咱们应该负重致远，竭尽所能去完成这件事。关联词，天下上有好多云服务商，咱们不作念也总会有东谈主出现。英伟达受命的理念是作念“必须作念的事，但越少越好”，一切齐是以此为中枢的。
对于云服务，要是咱们不支合手CoreWeave这样的“新式云服务商”存在，那么这些AI云公司就不会存在。要是莫得咱们的支合手，CoreWeave根底无法存在。咱们不支合手Nscale，它们也不会走到今天。要是莫得咱们的支合手，Nebius也不会达到今天的水平。而刻下，它们发展得特别好。
Q：为什么你不去挑选赢家？
黄仁勋：当先，这不是咱们的牵扯。其次，英伟达刚刚创当场，有60家从事3D图形业务的公司。终末，惟有咱们活了下来。但要是你其时问那60家公司哪家能活下来，英伟达很可能会被列为最不能能的那一个。
其时，英伟达的图形架构完全搞错了。不是有少量错，而是澈底错了。
咱们筹算了一种开发者完全无法支合手的架构。它永远不能能取得告成。咱们本着正确的第一性旨趣去推导，但最终得出了缺欠的处分决策。
其时，通盘东谈主齐会把咱们摒除在竞争名单除外。关联词，望望咱们刻下的时势。
因此，我深知，要怀有裕如的和睦。不要去挑选赢家。要么让他们我方竞争，要么支合手通盘东谈主。
Q：我有少量没听懂。你说英伟达并不优先支合手新式云服务公司，但又列举了好多新式云服务公司，并说“要是莫得英伟达的支合手，它们就不会存在”。这两个说法若何兼容呢？
黄仁勋：当先，它们需要有生计的意愿，况且主动来寻求咱们的匡助。
当它们渴慕存在，况且有我方的生意筹画、专科技巧和关怀时——澄莹它们必须自身具备一些才略。但最终，它们需要一些投资来站稳脚跟，而咱们会为它们提供支合手。越早启动它们的飞轮效应越好。
你的问题是，“咱们想作念金融投资方吗？”谜底是抵赖的。融资是别东谈主的领域，咱们更景象与通盘从事融资业务的东谈主配合，而不是我方去当金融家。咱们的方针是专注于咱们擅长的领域，让咱们的生意模式尽量简便，同期支合手咱们的生态系统。
比如，当OpenAI需要范围高达300亿好意思元的投资时，咱们会入手匡助他们。天下需要他们的存在。天下渴慕他们的存在，我也但愿他们存在。他们刻下有着强盛的增长势头。咱们会支合手他们并匡助他们推广。这种投资咱们会去作念，因为他们需要咱们。但咱们并不是试图作念“尽可能多的事情”，而是“尽可能少”。
Q：这个问题可能不言而谕，但咱们多年来一直处于GPU短缺的情景，刻下跟着模子的跳跃，供需缺口似乎更大了。
黄仁勋：没错，GPU刻下仍然供不应求。
Q：是的。英伟达以一种额外的方式分拨稀缺资源，并非单纯的价高者得，而是更多地推敲“咱们但愿这些新式云服务公司能存在”，因此分拨一些资源给CoreWeave、Crusoe，以及Lambda之类公司。英伟达为什么会选拔这种方式？你得意这样的商场描写吗？
黄仁勋：不，不，你的前提即是错的。咱们在这些事情上特别严慎。
当先，要是你莫得下订单，那么再多的筹商亦然没用的。在咱们收到订单之前，咱们实在窝囊为力。是以第一步是：咱们和通盘东谈主全部勤苦作念好需求展望，因为这些东西需要很永劫分本领坐褥出来，而数据中心的竖立也需要很永劫分。咱们通过展望来息争供需，这是第一步。
其次，咱们尽可能和更多东谈主全部进行需求展望，但最终如故要履行下订单。也许由于某种原因，你莫得下订单，那咱们又能作念什么呢？在某个时分点后，受命的是“先到先得”原则。不外，要是你的数据中心还没准备好，或者某些组件还没就绪，无法让数据中心启动运行，咱们可能会优先服务其他客户。这只是为了最大化咱们我方的工场产能哄骗率，咱们可能会作念一些这种调整。
除此除外，优先级即是“先到先得”。你需要下订单。要是你不下订单，那就果真无可操作。虽然，这可能演变成一些故事，比如之前报谈提到拉里·佩奇、马斯克和我共进晚餐，肯求赢得GPU。那完全不是果真。咱们确乎全部吃了顿饭，那是一次特别感奋的晚餐。但他们齐备莫得乞求GPU。他们只需下订单就行了。一朝订单下来了，咱们会尽全力空隙他们的需求。这件事情并不复杂。
Q：好吧，是以听起来即是有一个队伍。要是你的数据中心准备好了，况且订单在某个时分下达了，那么你会按划定得到录用。但听上去这仍不是出价最高者就能优先赢得。为什么选拔这样的策略呢？
黄仁勋：咱们从来不这样作念。
Q：好吧。
黄仁勋：咱们从来莫得。
Q：为什么不把东西卖给出价最高的东谈主？
黄仁勋：因为这是倒霉的生意行径。你定好价钱，然后让东谈主们决定是否购买。我知谈芯片行业的其他公司在需求很高时会调整价钱，但咱们不会。咱们从来莫得这样作念过。你可以依赖咱们。我更但愿成为行业的基础，不需要客户反复揣测。要是咱们给了你一个报价，那即是最终价钱。要是需求暴涨，那就让它暴涨吧。
Q：另一方面，这亦然为什么你和台积电有深广配合关系的原因，对吗？
黄仁勋：是的，英伟达和台积电配合行将满30年了。咱们之间以致莫得签过法律合同。有些事情总体上讲究公谈，未必候我占低廉，未必候耗损。但总体来说，咱们有着极好的关系。我可以完全信任他们，完全依赖他们。
你可以信托英伟达的是：每一年，齐可以期待咱们带来的跳跃。本年是Vera Rubin，来岁是Vera Rubin Ultra，再之后是Feynman，再下一年可能是尚不决名的新家具。每一年，咱们齐让你值得期待。放眼通盘这个词ASIC领域，你齐很难找到另一个团队如斯稳固，让单片成本每年着落一个数目级，同期保合手高产的才略。
莫得深度学习，英伟达也会作念加快算计
Q：一个敬爱的问题。假定你们照旧占据了台积电3nm工艺的大部分产能，况且畴昔在2nm节点时也占据大多数。你是抵赖为，推敲到 AI 的需求如斯之大，而前沿产能无法空隙需求，你们可以回头哄骗7nm这样较老工艺节点的剩余产能，比如制造一个基于Hopper或Ampere架构的芯片，但集结现存的数值优化时期和你提到的其他改进？你以为咱们会在2030年之前看到这样的情况吗？
黄仁勋：没这个必要。原因是，每一代架构不单是依赖晶体监工艺制程。工程筹算、封装、堆叠、数值优化，以及系统架构上的种种改进齐本事非凡。
要是遭受产能不及的情况，就回到较旧的工艺节点再行筹算芯片……那需要的研发干预谁也承担不起。咱们可以承担上前鼓舞的干预，但承担不起回头的代价。虽然，要是情形是……作念个想想实验：要是有一天咱们得出论断，“咱们再也无法得到更多的前沿产能”，要是真到了那天，我虽然会坐窝取舍且归使用7nm工艺。
Q：有东谈主建议过一个问题，为什么英伟达不同期并行伸开多个使用不同架构的芯片神态？
比如你们可以研发像Cerebras那样的晶圆级芯片，或者像Dojo那样的大型封装，以致一个完全莫得CUDA的筹算。你们有裕如的资源和工程东谈主才，能够并行开展这些神态。那么，为什么还要把通盘的赌注押在一个篮子里？
黄仁勋：哦，咱们是可以作念到。但问题是，咱们莫得找到更好的想法。咱们可以尝试这些东西，但它们并莫得更好。咱们在模拟器里测试过通盘这些决策，论断齐很明确：后果更差。是以咱们不会去作念。咱们刻下专注的神态，恰是咱们最想作念的。
虽然，要是任务类别发生了紧要变化——我指的不是算法，而是实在的任务需求变化，这取决于商场的形态——那么咱们可能会决定增多一些其他的加快器。
举例，最近咱们引入了 Groq，咱们将其整合到CUDA生态系统中。咱们之是以这样作念，是因为如今Token的价值照旧高得惊东谈主，这样作念可以给Token设定不同的价钱。几年前，Token要么免费，要么不贵。但刻下，客户越来越万般化，他们需要不同的性能发达。比如咱们的软件工程师，要是我能提供更快反馈的Token，让他们比刻下更高效，我景象为此买单。
这个商场是最近才出现的。我认为，咱们刻下可以基于反馈时分来细分商场。这即是咱们决定拓展帕累托前沿，并创建一个反馈时分更快的推理细分商场的原因，尽管它的隐约量较低。
在此之前，提高隐约量一直更为优先。但咱们认为，畴昔可能会出现一种场景：即便工场的隐约量较低，但由于高平均售价（ASP），也有真谛。
这即是咱们这样作念的原因。但总体而言，从架构的角度动身，要是让我领有更多资源，我会将这些资源投资于英伟达的现存架构。
Q：我以为这种“高溢价Token”和推理商场细分化的想法特别敬爱。
黄仁勋：是的，商场的进一步细化。
Q：好，终末一个问题。假定深度学习改进从未发生过，英伟达刻下会作念什么？
黄仁勋：加快算计——咱们一直以来所作念的事情。
咱们认定摩尔定律正在放缓……通用算计在好多方面发达深广，但在许多算计任务上并不睬想。
因此，咱们将一种名为GPU的架构与CPU集结在全部，以加快CPU的算计负载。不同的代码内核或算法可以被卸载到咱们的GPU上运行。撤废是，你可以将一个应用尺度的速率提高100倍、200倍。
这种性能可以用在那边？澄莹是在工程和科学领域，比如物理学、数据处理、算计机图形学、图像生成等等。即使今天莫得AI，英伟达依然会是一家特别远大的公司。
这少量有着特别根底的原因，那即是：通用算计才略继续推广的后劲基本上照旧走到至极。更进一步可行方式，是领域专用的加快器。
咱们最早涉足的领域之一是算计机图形学，但还有许多其他领域，比如粒子物理和流体模拟、结构化数据处理，以及万般受益于CUDA时期的算法。
咱们的办事一直是将加快算计带给全天下，推动那些通用算计无法完毕的应用发展，匡助破损科学范围。一些早期的应用包括分子能源学、用于能源勘测的地震处理、图像处理以及算计机图形的方方面面，在这些领域，通用算计着力齐太低。
要是莫得AI，我会特别缺憾。但正因为咱们在算计时期上的跳跃，深度学习被普及到天下各地。咱们让推敲东谈主员、科学家、学生齐可以通过一台PC或GeForce显卡作念出令东谈主咋舌的科学推敲。这一承诺从未改动过，少量点齐莫得。
要是你看GTC，开场部分根底与AI无关。算计光刻、量子化学推敲、数据处理，这些内容与AI无关，但依然特别弥留。我知谈AI很粗莽东谈主心，但还有好多东谈主在作念不触及AI的弥留办事，而这些算计任务并不单是局限于张量算计。
海量资讯、精确解读，尽在新浪财经APP
牵扯剪辑：韦子蓉 斗鱼体育app
大发官方网站手机app
备案号: