探析异构算力芯片出路在何方?
英伟达宣布 GH200 Grace Hopper 超级芯片投产,生成式 AI 引擎 NVIDIA DGX GH200 现已投入量产。
GH200 使用 Nvidia 的 NVLink-C2C 互连技术,将 Nvidia 基于 ARM 的 Grace CPU和 Hopper GPU 架构融合到一个芯片中。NVIDIA DGX GH200 将 256 个 NVIDIA Grace Hopper超级芯片完全连接到单个 GPU 中,支持万亿参数 AI 大模型训练,能够处理大规模推荐系统、生成式人工智能和图形分析,并为巨型人工智能模型提供线性可扩展性。
GH200 速度和功耗指标都有显著提升。这款新的芯片总带宽达每秒 900GB,比当今最先进的加速计算系统中采用的标准 PCIe Gen5 通道高出 7 倍。Nvidia 表示,Superchip 的功耗也降低了 5倍。
AMD 推出数据中心 APU Instinct MI300。AMD 推出数据中心APU(加速处理器)Instinct MI300,其旨在帮助数据中心处理人工智能相关数据流量,并在这一快速增长的市场上挑战英伟达的垄断地位。Instinct MI300 系列将包括一个 GPU(图形处理器)MI300X,可以加速 ChatGPT 等聊天机器人所使用的生成式 AI 技术的处理。
先进算力国产替代在行业变革中有望迎来机遇。半导体国产化势在必行,而算力芯片又是重中之重。AI 算力、低功耗等对服务器算力芯片提出新的要求,市场格局近几个季度变化较多,英伟达GH200 有望加速全球 AI 服务器算力芯片市场变革,中国芯片企业在面临挑战的同时,也有望迎来发展机遇。
1、不同算力芯片的特点与区别
计算芯片包括 CPU、GPU、FPGA、ASIC 等,都用作计算分析。其中,CPU 是性能最综合的计算芯片,AI 算法的执行也运用 GPU、FPGA、ASIC 等芯片。
CPU 是综合计算芯片,擅长逻辑控制和串行运算。计算机的运算器和控制器一起组成了 CPU,CPU 是整台计算机的大脑,也是一个有多种功能的优秀领导者。它的优点在于调度、管理、协调能力强,计算能力则位于其次。CPU 有大量的缓存和复杂的逻辑控制单元,非常擅长逻辑控制、串行的运算,但因计算单元占 30%左右,不擅长复杂算法运算和处理并行重复的操作。
GPU相比CPU计算单元大大增加,擅长大量并行计算。而作为通用芯片的 GPU 相当于一个接受CPU 调度的“拥有大量计算能力”的员工,计算单元相比 CPU 大大增加。GPU 最初承担图像计算任务,能够进行并行计算,因此 GPU 架构本身比较适合深度学习算法,通过对 GPU 的优化,进一步满足深度学习大量计算需求。其主要缺点在于功耗较高。
GPU 按照接入类型可以分为独立 GPU 和集成 GPU。独立 GPU 即独立显卡,需要插在主板的相应接口上,具备单独的显存,不占用系统内存,能够提供更好的显示效果和运行性能。全球知名供应商主要包括 AMD 和 NVIDIA 两家。集成 GPU 即集成显卡,是将图形核心以单独芯片的方式集成在主板上,并且动态共享部分系统内存作为显存使用,能够提供简单的图形处理能力,以及较为流畅的编码应用。全球知名供应商主要包括英特尔和 AMD 两家。
GPU 按照应用场景不同可分为 PC GPU、服务器 GPU 和移动 GPU。
1)集成 GPU 一般运用于PC 以轻办公、文字编纂为主;独立 GPU 则一般运用于 PC 以制作高清图片、编辑视频、渲染游戏等。
2)服务器 GPU 主要以独立 GPU 为主。服务器 GPU 主要应用于服务器,可做专业可视化、计算加速、深度学习等应用。
3)移动 GPU 以集成 GPU 为主。随着移动端向着轻薄化不断发展,终端内部净空间随着多种功能模组的增加呈快速下降趋势。此外,就目前的移动端视频和图片的处理要求而言,集成 GPU 的性能尚可满足移动端的需要。
GPU分析:全球竞争格局与未来发展 2023年GPU显卡技术词条报告 英伟达GPU龙头稳固,国内逐步追赶(详解) GPU/CPU领域散热工艺的发展与路径演绎 探析ARM第五代GPU架构 新型GPU云桌面发展白皮书 十大国产GPU产品及规格概述 GPU平台生态:英伟达CUDA和AMD ROCm对比分析 GPU竞争壁垒:微架构和平台生态 GPU微架构、性能指标、场景、生态链及竞争格局(2023) 大模型训练,绕不开GPU和英伟达 Nvidia/AMD竞争:GPU架构创新和新兴领域前瞻探索 走进芯时代:AI算力GPU行业深度报告 独立GPU市场,AMD份额大跌? CPU渲染和GPU渲染优劣分析 NVIDIA Hopper GPU:芯片三围、架构、成本和性能分析 国内GPU厂商及细分行业前景(2023) ChatGPT对GPU算力的需求测算与分析 AMD RDNA2 GPU架构详解 GPU研究框架(2023)
FPGA 又称半定制化芯片,具有足够的计算能力、较低的试错成本和足够的灵活性。FPGA 的计算速度快是源于它本质上是无指令、无需共享内存的体系结构,“无指令”即使用硬件描述语言编程,直接编译为晶体管电路的组合,所以 FPGA 实际上直接用晶体管电路实现用户的算法,没有通过指令系统的翻译;“无需共享内存”是指对于保存状态的需求,FPGA 中的寄存器和片上内存(BRAM)是属于各自的控制逻辑的,无需不必要的仲裁和缓存。
因此,FPGA 运算速度足够快,优于GPU。同时,相比量产成本高昂的 ASIC 芯片,因为 FPGA 是一种半定制的硬件,通过编程可定义其中的单元配置和链接架构进行计算,因此在灵活性上优于 ASIC,具备较低试错成本。
ASIC 是全定制芯片,性能强但是前期开发久、成本高。是根据产品的需求进行特定设计和制造的集成电路,能够在特定功能上进行强化,具有更高的处理速度和更低的能耗。缺点是成本高,且由于定制化,可复制性一般,因此只有用量足够大时才能够分摊前期投入,降低成本。
2、CPU 广泛应用于服务器、工作站、个人计算机等
CPU 可以应用在服务器、工作站、个人计算机(台式机、笔记本电脑)、移动终端和嵌入式设备等不同设备上,根据应用领域的不同,其架构、功能、性能、可靠性、能效比等技术指标也存在一定差异。
服务器处理器需长时间运行,数据处理能力最强、设计工艺最复杂、可靠性最高。服务器具有高速的数据处理能力、强大的 I/O 数据吞吐能力、良好的可扩展性,并需要长时间可靠运行,其CPU 芯片在性能、可靠性、可扩展性和可维护性等方面要求较为苛刻。因此,服务器处理器是数据处理能力最强、设计工艺最复杂、可靠性最高的处理器。服务器的应用领域包括实时分析、5G应用、人工智能、机器学习、金融、大数据和云计算等领域。
工作站主要为单用户提供比个人计算机更强大的性能。工作站是一种高端微型计算机,主要为单用户提供比个人计算机更强大的性能,尤其是在数据并行处理能力和图形处理能力等方面。工作站的典型应用领域包括科学和工程计算、软件开发、计算机辅助设计等。
个人计算机主要满足个人需求,核心数量较少。个人计算机包括台式机和笔记本电脑两大类,主要用于满足个人的工作、学习、娱乐需求,以及企业员工的办公需求。个人计算机处理器核心数量较少,具有较少 I/O。
移动终端具有低功耗、轻量化等特点,关注对多媒体功能的增强。移动终端包括手机、笔记本、平板电脑、POS 机等。随着集成电路技术的进步和移动网络向宽带化发展,移动终端正从简单通话工具逐步转变为综合信息处理平台。移动终端处理器具有低功耗、轻量化等特点,关注对多媒体功能的增强,具有较少 I/O。
嵌入式设备对功耗、稳定性、可扩展能力要求高。嵌入式设备需要具有高稳定性和低功耗,其处理器对环境(如温度、湿度、电磁场、振动等)的适应能力强,体积小,且集成度高,适用于工业控制、移动便携设备、物联网终端等场合。其中,大多数物联网设备需要额外的 CPU 处理能力来支持可升级的额外功能。因此,针对特定的物联网应用程序的 CPU 不仅必须支持安全特性,而且必须同时具有可扩展的性能,实现更高的时钟频率。物联网应用处理器芯片具有面向高集成度、高抗干扰能力和低功耗的发展趋势。
3、GPU 等 AI 芯片广泛应用于高性能运算、深度学习等场景
AI 芯片主要指面向人工智能应用的芯片。大致包含三类:
1)通用、半定制化芯片:经过软硬件优化可以高效支持 AI 应用的通用芯片,如 GPU,FPGA;
2)专门为特定的 AI 产品或者服务而设计的芯片:侧重加速机器学习(尤其是神经网络、深度学习),如 ASIC;
3)神经形态计算芯片:不采用经典的冯·诺依曼架构,而是基于神经形态架构设计,类似人脑,具备较高的集成度和能效比,以 IBM Truenorth 为代表。
国产算力芯片市占率低,具备广阔拓展空间。算力芯片目前国产厂商份额极低。CPU 目前从市场占有率来说,Intel 依靠其强大的 X86 生态体系,在通用 CPU 市场占据领先地位,市场份额常年保持在 80%左右,AMD 近期追赶势头明显,其他厂商整体市场份额不超过 1%。
2022 年,数据中心领域 Intel 市场占有率为 71%,较 21年下降 10pcts,AMD 在 22 年市占率快速提升 8pcts 至 20%,亚马逊、Ampere 等新兴玩家份额快速提升,给总计份额不足 5%的国产厂商发展带来了借鉴意义。在独立显卡市场上,NVIDIA、AMD 和英特尔 2022 年 Q4 全球 GPU 市场占有率分别为82%、9%和 9%。
多数参数我国 CPU 具备比肩能力,IPC 性能是最主要差距。目前通过公开信息可以看出,主频、核心数、内存类型等指标我国 CPU 厂商差异不大,具备一定的比肩能力,但落实到具体性能决定指标 IPC,仅 Intel 和 AMD 会公布 IPC“相比上一代提升了多少”,其他国产 CPU 从 IPC 性能来看大致落后于 Intel、AMD 几年水平。
国产厂商的机遇一:数据中心带来新需求。根据工信部信息通信发展司数据,2017年我国数据中心市场总机架数量 166 万架,2022 年预测达到 670 万架,2017-2022E 复合增速达 32.2%。目前东数西算工程将通过构建数据中心、云计算、大数据一体化的新型算力网络体系,于 2022 年 2 月,在京津冀、长三角、粤港澳大湾区等 8 地启动建设国家算力枢纽节点,规划了 10 个国家数据中心集群。各地数据中心都将集聚大量服务器,如韶关数据中心预计到 2025 年将建成 50 万架标准机架、500 万台服务器规模,投资超 500 亿元(不含服务器及软件)。
国产厂商的机遇二:国产化浪潮。政府及国有企事业单位为国产 CPU 主阵地。据测算,今年 PC 芯片市场规模在 162-330 亿元之间,2022 年服务器芯片市场规模则已达 130 亿美元。在企业级市场中,也不仅是国有企业,能源、交通、金融、电信、教育等重要领域或规模较大的民营企业也存在设备国产化需求。消费级市场对产业生态的要求最高,对性价比较为敏感,迭代周期短,是国产 CPU 长期需突破的目标市场。
国产厂商的机遇三:通过封测技术弯道超车。后摩尔时代的到来,一方面,CPU 制程进入后摩尔定律时期升级速度趋缓,国产 CPU 性能与国际主流水平逐步缩小,存在赶超的可能;另一方面,先进封装技术成为兵家竞争新赛道,在封装方面,我国封测厂商长电科技和通富微电在全球前五中占据两席,通富与 AMD 紧密合作,先进封装技术正成为集成电路产业发展的新引擎,我国 CPU 企业有望通过封测技术弯道超车,弥补先进制程能力不足的缺陷。目前国产 CPU 已经可以通过先进封装技术实现性能提升与应用场景拓展。
更新提醒:“存储系统基础知识全解(终极版)”和“服务器基础知识全解(终极版)”已经更新发布,还没有获取的读者,请在点击“原文链接”在微店留言获取(PDF阅读版本)。
全店内容持续更新,现下单“架构师技术全店资料打包汇总(全)”一起发送“服务器基础知识全解(终极版)”和“存储系统基础知识全解(终极版)”pdf及ppt版本,后续可享全店内容更新“免费”赠阅,价格仅收249元(原总价439元)。
温馨提示:
扫描二维码关注公众号,点击阅读原文链接获取“架构师技术全店资料打包汇总(全)”电子书资料详情。
微信扫码关注该文公众号作者