价格暴涨500%,HBM市场彻底引爆!
* 来源 : * 作者 : admin * 发表时间 : 2024-02-23
高阶HBM时代已然到来
记忆体技术作为电脑系统的核心组成部分,其效能的提升对于整体运算能力的提升至关重要。在这个背景下,高频宽记忆体(HBM)以其卓越的效能表现,正逐渐在记忆体技术领域崭露头角,成为推动运算领域进入全新时代的关键力量。
相较于传统的动态随机存取记忆体(DRAM),HBM的效能优势显而易见。
01 远超越DDR
DDR 是一种常见的电脑记忆体类型,最早是为了提高记忆体传输速率而设计的。它采用了双倍数据传输技术,即在每个时脉周期内可以传输两次数据,从而提高了数据传输速率。
目前最常见的DDR版本是DDR4、DDR5,但过去还有DDR3、DDR2、DDR等版本。每一代DDR版本都有不同的资料传输速率和效能。
DDR记忆体通常用于电脑的系统内存,用于储存作业系统和正在运行的应用程式等资料。
HBM是一种高频宽记忆体技术,专注于提供更高的记忆体频宽,尤其适用于高效能运算和图形处理领域。HBM的一个显著特点是,它使用了堆叠技术,将多个DRAM芯片垂直堆叠在一起,从而大大增加了资料通路,提高了记忆体的频宽。
因此HBM 具有可扩展更大容量的特性。不仅HBM 的单层DRAM 芯片容量可扩展,HBM 还可以透过4 层、8 层以至12 层堆叠的DRAM 芯片,此外HBM可以透过SiP 整合多个HBM 叠层DRAM 芯片等方法,实现更大的记忆体容量。
HBM记忆体通常用于高效能显示卡、GPU加速器以及需要大量资料传输的高效能运算应用中。
从功耗角度来看,由于采用了TSV 和微凸块技术,DRAM 裸片与处理器间实现了较短的讯号传输路径以及较低的单引脚I/O 速度和I/O 电压,使HBM 具备更好的记忆体功耗能源效率特性。以DDR3 记忆体归一化单脚I/O 频宽功耗比为基准,HBM2 的I/O 功耗比明显低于DDR3、DDR4 和GDDR5 记忆体,相对于GDDR5 记忆体,HBM2 的单脚I/O频宽功耗比数值降低42%。
在系统整合方面,HBM 将原本在PCB 板上的DDR 记忆体颗粒和CPU 芯片全部整合到SiP 里,因此HBM 在节省产品空间方面也更具优势。相对于GDDR5 记忆体,HBM2 节省了94% 的芯片面积。
02 三大原厂的研发历程
目前的HBM市场主要以SK海力士、三星和美光三家公司为主。
2014 年,SK海力士与AMD 共同开发了全球首款矽通孔HBM,至今已迭代升级了4代HBM产品,性能与容量持续提升。2020年SK海力士宣布成功研发新一代HBM2E;2021年开发出全球第一款HBM3;2022年HBM3芯片供货英伟达。2023年8月,SK海力士推出HBM3E,11月英伟达宣布H200将搭载HBM3E。
可以说从HBM1、HBM2E、HBM3、HBM3E,SK海力士持续领先。2022年SK海力士占据HBM市场约50%的份额,三星占40%,美光占10%。
在很长一段时间内,SK海力士都是英伟达HBM的独家供应商。2023年SK海力士基本垄断了HBM3供应,今年其HBM3与HBM3E的订单也已售罄。
三星是在2016年,开始宣布量产4GB/8GB HBM2 DRAM;2018年,宣布量产第二代8GB HBM2;2020年,推出16GB HBM2E产品;2021年,三星开发出具备AI处理能力的HBM-PIM ;虽然三星的路线图显示2022年HBM3技术已经量产,但实际上三星的HBM3在2023年底才正式完成验证,这意味着在大量生产之前,市场还是由SK 海力士垄断。
再看美光,2020年,美光宣布将开始提供HBM2记忆体/记忆体;2021年,HBM2E产品上市。为了改善自己在HBM市场中的被动地位,美光选择了直接跳过第四代HBM即HBM3,直接升级到了第五代,即HBM3E。随后在2023年9月,美光宣布推出HBM3 Gen2(即HBM3E),后续表示计划于2024 年初开始大批量发货HBM3 Gen2 内存,同时透露英伟达是主要客户之一。
03 HBM2e过渡到HBM3e
HBM的概念的起飞与AIGC的火热有直接关系。
AI大模型的兴起催生了海量算力需求,而资料处理量和传输速率大幅提升使得AI伺服器对芯片记忆体容量和传输频宽提出更高要求。HBM具备高频宽、高容量、低延迟和低功耗优势,目前已逐步成为AI伺服器中GPU的搭载标配。
目前,HBM产品以HBM(第一代)、HBM2(第二代)、HBM2E(第三代)、HBM3(第四代)、HBM3E(第五代)的顺序开发,最新的HBM3E是HBM3的扩展版本。
相较于传统的动态随机存取记忆体(DRAM),HBM的效能优势显而易见。
01 远超越DDR
DDR 是一种常见的电脑记忆体类型,最早是为了提高记忆体传输速率而设计的。它采用了双倍数据传输技术,即在每个时脉周期内可以传输两次数据,从而提高了数据传输速率。
目前最常见的DDR版本是DDR4、DDR5,但过去还有DDR3、DDR2、DDR等版本。每一代DDR版本都有不同的资料传输速率和效能。
DDR记忆体通常用于电脑的系统内存,用于储存作业系统和正在运行的应用程式等资料。
HBM是一种高频宽记忆体技术,专注于提供更高的记忆体频宽,尤其适用于高效能运算和图形处理领域。HBM的一个显著特点是,它使用了堆叠技术,将多个DRAM芯片垂直堆叠在一起,从而大大增加了资料通路,提高了记忆体的频宽。
因此HBM 具有可扩展更大容量的特性。不仅HBM 的单层DRAM 芯片容量可扩展,HBM 还可以透过4 层、8 层以至12 层堆叠的DRAM 芯片,此外HBM可以透过SiP 整合多个HBM 叠层DRAM 芯片等方法,实现更大的记忆体容量。
HBM记忆体通常用于高效能显示卡、GPU加速器以及需要大量资料传输的高效能运算应用中。
从功耗角度来看,由于采用了TSV 和微凸块技术,DRAM 裸片与处理器间实现了较短的讯号传输路径以及较低的单引脚I/O 速度和I/O 电压,使HBM 具备更好的记忆体功耗能源效率特性。以DDR3 记忆体归一化单脚I/O 频宽功耗比为基准,HBM2 的I/O 功耗比明显低于DDR3、DDR4 和GDDR5 记忆体,相对于GDDR5 记忆体,HBM2 的单脚I/O频宽功耗比数值降低42%。
在系统整合方面,HBM 将原本在PCB 板上的DDR 记忆体颗粒和CPU 芯片全部整合到SiP 里,因此HBM 在节省产品空间方面也更具优势。相对于GDDR5 记忆体,HBM2 节省了94% 的芯片面积。
02 三大原厂的研发历程
目前的HBM市场主要以SK海力士、三星和美光三家公司为主。
2014 年,SK海力士与AMD 共同开发了全球首款矽通孔HBM,至今已迭代升级了4代HBM产品,性能与容量持续提升。2020年SK海力士宣布成功研发新一代HBM2E;2021年开发出全球第一款HBM3;2022年HBM3芯片供货英伟达。2023年8月,SK海力士推出HBM3E,11月英伟达宣布H200将搭载HBM3E。
可以说从HBM1、HBM2E、HBM3、HBM3E,SK海力士持续领先。2022年SK海力士占据HBM市场约50%的份额,三星占40%,美光占10%。
在很长一段时间内,SK海力士都是英伟达HBM的独家供应商。2023年SK海力士基本垄断了HBM3供应,今年其HBM3与HBM3E的订单也已售罄。
三星是在2016年,开始宣布量产4GB/8GB HBM2 DRAM;2018年,宣布量产第二代8GB HBM2;2020年,推出16GB HBM2E产品;2021年,三星开发出具备AI处理能力的HBM-PIM ;虽然三星的路线图显示2022年HBM3技术已经量产,但实际上三星的HBM3在2023年底才正式完成验证,这意味着在大量生产之前,市场还是由SK 海力士垄断。
再看美光,2020年,美光宣布将开始提供HBM2记忆体/记忆体;2021年,HBM2E产品上市。为了改善自己在HBM市场中的被动地位,美光选择了直接跳过第四代HBM即HBM3,直接升级到了第五代,即HBM3E。随后在2023年9月,美光宣布推出HBM3 Gen2(即HBM3E),后续表示计划于2024 年初开始大批量发货HBM3 Gen2 内存,同时透露英伟达是主要客户之一。
03 HBM2e过渡到HBM3e
HBM的概念的起飞与AIGC的火热有直接关系。
AI大模型的兴起催生了海量算力需求,而资料处理量和传输速率大幅提升使得AI伺服器对芯片记忆体容量和传输频宽提出更高要求。HBM具备高频宽、高容量、低延迟和低功耗优势,目前已逐步成为AI伺服器中GPU的搭载标配。
目前,HBM产品以HBM(第一代)、HBM2(第二代)、HBM2E(第三代)、HBM3(第四代)、HBM3E(第五代)的顺序开发,最新的HBM3E是HBM3的扩展版本。