HBM,还在缺货?
👆如果您希望可以时常见面,欢迎标星🌟收藏哦~
来源:内容由半导体行业观察(ID:icbank)编译自datacenterknowledge,谢谢。
就在科技硬件供应链似乎正在从新冠疫情引发的短缺中恢复时,一个新的瓶颈又出现了,这可能会影响数据中心 GPU 的供应和数据中心开发商的扩张计划。
今年 5 月,韩国内存制造商 SK 海力士宣布,其 2024 年和 2025 年大部分时间的高带宽内存 (HBM) 芯片供应已售罄。其在该领域的竞争对手之一美光在 3 月份也发表了类似的声明。作为 HBM 市场的最后一家参与者,三星尚未就产品供应情况发表公开评论。
随着人工智能和数字服务的激增,HBM 短缺对数据中心的扩张提出了新的挑战。虽然GPU 瓶颈问题备受关注,但高带宽内存需求的不断增长可能会进一步影响该行业的增长计划。
什么是 HBM 芯片?为什么数据中心需要它们?
实际的 GPU 封装本身中使用了高带宽内存,其芯片物理上位于 GPU 硅片的旁边,而标准 DRAM 则安装在 DIMM 条上并位于 CPU 旁边。
在新冠疫情供应链短缺期间,汽车制造商无法获得车辆所需的芯片,因此他们干脆生产不带芯片的汽车并将其封存,直到能够补充库存为止。
Nvidia 和 AMD 等 GPU 供应商没有这种选择。没有高带宽内存意味着无法组装 GPU,因为必须在制造阶段将 HBM 添加到 GPU 封装中。
这显然是一个敏感话题。当Data Center Knowledge采访时,数据中心硬件供应商 Hynix、Micron、Samsung、Nvidia、Intel 和 AMD 均拒绝就此事发表评论。
TrendForce 预测,HBM 在整个内存市场的份额将在 2024 年增长近一倍,从 2023 年的 2% 增至今年的 5%。展望未来,预计到 2025 年,HBM 的市场份额将超过整个内存市场的 10%。
从市场价值来看,预计从 2024 年开始高带宽内存将占DRAM总市场价值的 20% 以上,到 2025 年可能超过 30%。
数据中心持续增长,但 HBM 短缺可能带来挑战
HBM 内存的制造成本更高,制造难度更大,制造时间也比标准 DRAM 更长。因此,内存制造商不可能立即转向增加 HBM 产量。此类制造厂(如 CPU 工厂)需要时间来建造。
数据中心产品的短缺可能会影响该行业的扩张和增长计划,但供应链目前仍在坚持。Omdia 的主机托管和数据中心建设首席分析师 Alan Howard 指出,尽管一些公司不得不等待 GPU 硬件,但数据中心建设仍在继续进行。
需求肯定不会放缓。Omdia 预测,到 2024 年,其追踪的 100 家公司预计将有 3770 万平方英尺和 6 吉瓦的计划产能上线。
Howard 告诉Data Center Knowledge :“在可预见的未来,GPU 短缺不太可能对数据中心建设计划产生重大影响。唯一可能对数据中心建设造成影响的因素,无论是计算还是 AI 硬件,将是一场巨大而长期的供应链噩梦。这不太可能,但就像一场疫情一样,并非不可能。”
如果真的出现严重的 GPU 短缺,情况又会如何呢?“这将是一场交易盛宴,”科技硬件研究公司 Jon Peddie Research 总裁 Jon Peddie 说道。“无论哪家公司愿意支付溢价以占据榜首,他们都会获得第一批货,然后这种交易就会一直存在。”
Moor Insights and Strategy 首席分析师安谢尔·萨格 (Anshel Sag) 表示,真正的问题是,如果出现 HBM 瓶颈,这种模式不允许任何新进入者进入市场。
“Nvidia 将获得 HBM 的大部分份额,但 AMD 和其他公司可能已经下了订单一段时间了,”Sag 解释道。“所以,如果你想推出使用 HBM 的产品,而你还没有协商好供应,那么你可能就拿不到任何 HBM。”
这也影响到 SambaNova 等规模较小的公司,该公司使用自己的定制硅片和非 GPU 部件制造专用 AI 处理服务器。Sag 指出,AMD 的 Versal 系列 FPGA 处理器也使用 HBM 内存,这也可能会进一步遭遇短缺。
佩迪表示,订单上已经积压了大量 GPU。他预计 Nvidia 将在第二季度出货 80 万台 GPU,但销量可能还会更高。“他们可能无法满足需求的增长,但他们将满足 80% 或更多的需求,”他说。“这只是有点不舒服。你知道,这就像,‘哎呀,我今晚没有甜点,但我吃了一顿丰盛的晚餐’。”
Sag 表示,他认为内存制造商积极扩大产能的唯一方式是 Nvidia 这样的供应商要求第三方增加产能。“其他公司……也对代工厂做过类似的事情。苹果和高通等公司为代工厂提供了工具和资金,以加速其某些技术的部署。因此,芯片供应商为代工厂提供激励措施以扩大产能或提高产量是有先例的,”他说。
除了 HBM 短缺,还有更广泛的扩张挑战
Peddie 预测,目前正在建设的数据中心将会建成,但展望未来,GPU 和内存供应问题将成为他们面临的最不重要的问题,因为数据中心运营商和建设者正在努力解决其他问题。这包括获得房地产、足够的电力和冷却,以及建设数据中心所需的所有其他因素。
“安装基数将达到一定水平,开始接近需求,然后客户就会不以为意,因为他们会说我们现在不需要更多的电路板,我们已经有足够的电路板了,”佩迪说。“而且我们不仅有足够的电路板,而且没有地方放新的电路板。”
参考链接
https://www.datacenterknowledge.com/supply-chain/hbm-chip-shortage-a-new-bottleneck-in-the-data-center-supply-chai
END
*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。
今天是《半导体行业观察》为您分享的第3852内容,欢迎关注。
推荐阅读
『半导体第一垂直媒体』
实时 专业 原创 深度
公众号ID:icbank
喜欢我们的内容就点“在看”分享给小伙伴哦
微信扫码关注该文公众号作者