ASIC百家争鸣，GPU仍为主流
👆如果您希望可以时常见面，欢迎标星🌟收藏哦~
来源：内容来自工商时报，谢谢。
亚马逊、微软、google、Meta四大云端服务商（CSP）大厂积极投入自研芯片，为半导体业带来庞大新商机。
四大CSP业者积极寻求与ASIC设计服务业者合作，半导体业者指出，亚马逊推出Trn1及Trn2分别采用7纳米及5纳米制程，分别下单给世芯-KY及Marvell，google TPU采5纳米设计与博通关系良好，微软Maia采5纳米芯片则委由台积电代工并搭配GPU架构，Meta MTIA则采7纳米制程，委由博通设计。
半导体业者指出，为求降低整体成本，配合自身生态软体跟应用，各家云端大厂积极开发ASIC，且因自研芯片需摊提开发成本，具有庞大用户基础才足以达到规模效益；目前能开案AI ASIC之厂商，仅着重在各大CSP业者。
以Google TPU例，与博通（Broadcom）合作开发，专门针对Google的开源深度学习框架TensorFlow最佳化的芯片，在此框架下能发挥最高之运作效率，不过在其他学习框架的表现则不佳，通用型GPU仍为现阶段主流方案。
微软于2023年11月发布两款芯片，分别为CPU及AI加速器之Cobalt 100、Maia 100；其中Maia 100采用台积电5纳米制程。据法人调研指出，该款芯片于FLOPS（浮点运算次数）以及I／O上，处于领先地位，但该芯片不对外贩售，仅做为微软ASIC内部人工智慧运算。不过Maia因为记忆体频宽限制，在推理效能仅为H100的三分之一，考量延迟问题，Maia于延迟敏感度高之应用，如自驾车，仍无法与芯片巨头辉达或AMD GPU匹敌。
自研芯片虽然在应用上，不若芯片厂通用型GPU广泛，然而ASIC却在成本上坐拥优势。法人表示，以价格而言，Google云端A100 80GB价格为每小时3.93美元，TPU v4价格仅需3.22美元，减少约2成左右；在特定应用效能也不输GPU的情况下，CSP业者采取自主研发，降低运营成本。
AI芯片，肥水不落外人田
AI成为科技业下个十年的显学，关键竞争力则聚焦在「加速运算」。实际上，要让算力变强，已不仅只是芯片厂或软体商的各自任务，能做到软硬整合的企业，才可掌握AI世代的广大商机。
这说明了为何从美国大厂Google Cloud、AWS、Azure和Meta，再到中国的阿里巴巴、百度和腾讯等，几乎所有拥有超大型资料中心的软体大厂，纷纷跨界设计起AI芯片，希望借此创造差异化，在这场AI的军备竞赛中胜出。
资策会MIC产业顾问潘建光观察，「现在几乎所有的云端业者，都在发展自己的AI芯片。」自研AI芯片为何如此重要？
建光指出，无论是辉达（NVIDIA）H100或是超微（AMD）MI300系列的AI芯片，都是通用型产品，虽然可适用于各类型的AI应用上，但就硬体及软体间的相互配合来说，并不如自研芯片来得好。
他解释，不同企业的语言模型有各自的底层架构，搭配专属芯片可以达到更好的优化效果。如同iPhone手机必须要用苹果（Apple）自己设计的芯片，才能达到系统最佳化。
整体看来自研芯片似乎会挤压到通用型AI芯片的市场。不过潘建光表示，生成式AI才刚问世不久，所有与AI相关的应用也还在进化中，即使自研芯片，很可能2年后就不能用了，「所以软体巨头研发芯片的进度也还有限。 」
潘建光认为，云端厂原本的自研芯片都还在运行生成式AI出现前的AI服务，那些芯片可以再跑3到5年，投资报酬率高，云端厂能将自研的成本赚回来。但面对变化中的生成式AI，云端厂还是会先以如辉达的通用型AI芯片为主，「两条路会并行一阵子。」
有趣的是在自研趋势下，相关产业链的产品线也出现变化。IP大厂安谋（Arm）过去皆以授权单个IP为主要商业模式，今年则推出「系统级」的IP产品，将多个IP整合成一个子系统后做贩售，名为「Arm Neoverse 运算子系统（CSS）。」
换句话说，过去客户仅能买到单颗CPU或GPU的IP，再想办法整合成一套系统放在手机或电脑内运作，过程旷日费时。安谋如今直接贩售系统的半成品，让客户买回去后稍作加工，即可符合各自需求，省下客户过去必须组合IP的时间，加速产品开发，符合当今AI快速变化的需求。
安谋应用工程总监徐达勇分析，安谋推出系统级产品的原因之一，是来自预见云端大厂的自研芯片将蓬勃发展。由于软体大厂可能缺乏芯片设计经验，购买子系统则能解决部分的IC设计瓶颈。徐达勇举例：「像AWS就是想要掌握差异化，所以希望能自己开发符合伺服器需求的芯片。」
潘建光指出，当前云端大厂的芯片设计能力并不差，但更前瞻技术如高频宽记忆体（HBM）、先进封装或互联技术上，与纯IC设计商还有差距。从这个角度来看，恰好是安谋能够发挥的空间。他并指出，长期而言，若技术成熟，仍有追上的机会。
摩根士丹利报告指出，客制化芯片（ASIC）占整个AI芯片市场还不足1成，但预估至2027年时将成长至3成，年复合成长率达30％，显见「自己的芯片自己做」将成未来主流。该报告指出，除了云端巨头的竞争，部分原因还来自于中美禁令下，中国迈向国产化采购的趋势。
在这一波商机下，法人认为台湾设计代工厂如智原、创意和世芯等企业，有望吃下一波来自AI自研芯片的红利。另外诸如台积电、日月光等先进制程和封装供应商，也将获得新的成长机会。
END
*免责声明：本文由作者原创。文章内容系作者个人观点，半导体行业观察转载仅为了传达一种不同的观点，不代表半导体行业观察对该观点赞同或支持，如果有任何异议，欢迎联系半导体行业观察。
今天是《半导体行业观察》为您分享的第3653期内容，欢迎关注。
推荐阅读
『半导体第一垂直媒体』
实时 专业 原创 深度
公众号ID：icbank
喜欢我们的内容就点“在看”分享给小伙伴哦
微信扫码关注该文公众号作者