Bendi新闻
>
GPU的“泼天富贵”,英伟达一家吃不下

GPU的“泼天富贵”,英伟达一家吃不下

9月前

“Meta的新目标AGI,为了实现这一目标,到今年年底我们将需要大约35万块英伟达H100,将其他GPU包括在内的话,算力总水平相当于近60万块H100。”

昨日凌晨,扎克伯格在最新的一条Ins中宣布了这一消息,表明大力发展AI的决心。

60万是一个惊人的数字,而购买芯片所需费用可能更惊人,保守估计可能也要90亿美元。

Raymond James分析师指出,英伟达 H100每块售价在2.5万—3万美元之间,尽管黄仁勋说过“买的越多、省得越多,但再怎么大批量采购,可能仍要花费超90亿美元。

AI淘金热持续火爆,“卖铲人”英伟达成最大受益者,而这还仅仅只是Meta一家,随着科技巨头大量投入来抢夺AI领先地位,泼天富贵哗啦啦涌向“卖铲人”们。

面对送上门的钱,每个人都不会拒绝,关键在于是否有能力接住,而英伟达一家似乎很难吞下全部。


英伟达吞不下全部GPU财富

自AI爆火推动芯片需求走高,英伟达就被“产能受限”的问题困扰。

以Meta为例来看,英伟达似乎很难满足其需求。

据媒体此前报道,英伟达去年三季度卖出近50万块A100和H100 GPU,由于需求火爆,H100的交付周期长达36周到52周不等。

研究公司Omdia指出,Meta和微软是英伟达H100 GPU的最大买家,Q3他们分别采购了约15万块H100。

但H100是2022年底才上市,而且值得注意的是Omdia预计去年年底时H100交付周期已经长达52周,这意味着按照Meta的需求,英伟达GPU可能很难满足其算力需求。

为了满足规划的需求,算力需求要么由自研芯片填补、要么从英伟达竞争对手AMD/Intel处购买。

有网友评论称:

需求可能会来自两家公司,这不奇怪。一方面,英伟达芯片产能有限,另一方面是因为作为买家,肯定会为自己储备第二供应商(用来议价或者保持供应安全)。
但归根结底,瓶颈在于台积电,目前所有尖端GPU都是由台积电生产,即使是英特尔的GPU也不例外。


AMD或将从中分一杯羹

如果从英伟达竞争对手来看,AMD最可能吃下Meta剩余的需求。

AMD与英伟达正面交锋,发布“最先进AI加速器”MI300,运行的就是Meta的Llama 2。

AMD首席执行官苏姿丰(Lisa Su)在人工智能大会上展示新发布的AMD Instinct MI300X芯片性能时表示,在运行 Meta LLAMA 2-70B 模型时,MI300X的性能是英伟达H100的1.2 倍。

苏姿丰在演示中进步一指出,在推理 Llama 2 时,一台由8块MI300X组成的服务器运行速度是H100的1.4倍,显然MI300X 的性能在 Llama 2 中得到了最好的体现。

而最具突破性的消息是,Meta将与 AMD合作,使用 MI300X 构建数据中心。

双方之所以能走到一起,得益于对开源的热爱和长期合作。

Meta的Llama 2为开源大模型,而AMD运算平台Radeon也是开源项目。

此外,AMD与Meta此前进行了长期合作,自2019 年以来,Meta 一直与 AMD 合作开发EPYC CPU。Meta最近还在其基础设施中大规模部署了基于AMD Genoa 和 Bergamo 的服务器。

未来将分得“芯片之王”英伟达一杯羹,或许是AMD本周暴涨,分析师上调目标价的原因。

本周AMD股价爆发,隔夜收涨7.1%,四日累涨约18.9%,连续两日双双创盘中和收盘历史新高。

分析师纷纷上调AMD目标价,巴克莱将AMD目标价上调80美元,预计公司今年AI芯片销售额可能达到40亿美元,2025年将超过70亿美元;O’Malley给予AMD“买入”评级,称AMD最高端的AI芯片MI300的需求强劲。

同时,台积电最新财报报喜,也带动AMD、英伟达股价创新高。

业绩指引方面,台积电预计第一季度营收将下降180-188亿美元左右,但在接下来的每个季度都将增长,而HPC是其中一个关键的驱动因素。

受此消息提振,周五台积电收涨逾6%,引爆芯片股。

AI淘金先富卖铲人,在芯片需求高企的情况下,各大芯片巨头有望进一步受益。

⭐星标华尔街见闻,好内容不错过
本文不构成个人投资建议,不代表平台观点,市场有风险,投资需谨慎,请独立判断和决策。

觉得好看,请点“在看”

微信扫码关注该文公众号作者

来源:华尔街见闻

相关新闻

一文读懂英伟达的“新GPU”:比H100快5倍?1200W的功耗?液冷?与MI300X比较又如何?首个国产全功能GPU的万卡集群来了!“中国英伟达”出品为AI“降温”:直接对芯片的无水液冷技术大幅降低能耗和成本,正适配英伟达GPU突破摩尔定律极限!前谷歌量子计算团队首创「热力学计算机」,英伟达GPU「退役」?消息称英伟达 Blackwell“B100”GPU 将配 192GB HBM3e 显存,B200 配 288GB 显存喧嚣背后,国产GPU距离“平替”英伟达还有多远?英伟达推「万亿参数」GPU,继续加速「AGI 时代」国产GPU重大利好!“中国英伟达”千卡集群已就位来点狠的?!白宫给自己挖了个“天坑”,中国:吃不下当心撑死!英伟达 GTC 大会携万亿参数 GPU「炸裂」 AI 行业不想炸薯条的Ilya和不送GPU的英伟达,Hinton最新专访:道路千万条,安全第一条AI行业买英伟达GPU,花的钱比赚的多17倍斯坦福让“GPU高速运转”的新工具火了,比FlashAttention2更快打造比英伟达 Blackwell更强的GPU胳膊肘往外拐?AMD的AI GPU助推器增加对英伟达的支持30行代码,500万长文本推理提速8倍!「树注意力」让GPU越多省的越多英伟达Blackwell和GeForce RTX 50系列GPU,我所知道的一切仅用19天,马斯克建成全球最强“超算工厂”!10万块H100 GPU上线,Grok 3预计年底发布英伟达股价又创下历史新高!扎克伯格宣布购买35万GPU芯片,芯片的巨大潜力增长训练一次经历 419 次意外故障!英伟达 GPU 也差点玩不转 405B 模型,全靠 Meta 工程师后天救场!热归热,Groq离取代英伟达GPU有多远?业界首次!搭载英伟达GPU,50倍性能提升!Zilliz发布Milvus 2.4向量数据库英伟达GPU创纪录,市占率高达90%Elon Musk抢购英伟达GPU,也要买AMD芯片
logo
联系我们隐私协议©2024 bendi.news
Bendi新闻
Bendi.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Bendi.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。