存储器芯片的疯狂或将在2024年重演

糟糕的2023年已经过去，存储器芯片市场正在酝酿一场新的爆发。
根据统计，2023年第四季度，全球DRAM（存储器）和NAND快闪存储器的价格约上涨3%~8%。相对于PC市场而言，服务器DRAM市场对成长有更大作用。
2024年，随着运算速度的提升，DRAM和NAND闪存在各类AI应用，如智能手机、服务器、笔电的单机平均搭载容量都会成长，其中，服务器应用的成长幅度最高。
智能手机方面，2023年，由于供过于求，存储器价格快速下跌，由于价格很低，推升了2023年智能手机DRAM单机平均搭载容量年增17.5%。 2024年，在没有新应用推出的预期下，智能手机DRAM的单机平均搭载容量的成长幅度将放缓，预估为11%。
服务器方面，伴随AI服务器需求持续增加，高阶AI芯片陆续推出，由于训练是目前AI市场主流，其采用的存储器是以有助于高速运算的DRAM为主，与NAND快闪存储器相比，DRAM的单机平均搭载容量成长幅度更高，预估年增17.3%。
笔电方面，预计搭载新款CPU的笔电要到下半年才会陆续推出，对拉高存储器容量的帮助有限，另外，AI PC要求DRAM容量加大至16GB，预计笔电DRAM的单机平均搭载容量年增率约12.4%。

DDR5加速渗透
AI大模型持续迭代升级，参数持续成长，大模型的参数规模越大，算力负担越重，AI服务器是算力的核心。 2023年，AI服务器（搭载GPU、FPGA、ASIC等高算力芯片）出货量近120万台，年增38.4%，占整体服务器出货量的9%，依照这个势头发展下去，2026年将占到15%的市占率。
更多的大模型参数需要大容量、高速的存储器支持，美光在法说会上表示，一台AI服务器的DRAM使用量是普通服务器的6-8倍。到2026年，预计服务器DRAM（不含HBM）市场规模可望达到321亿美元。
针对AI服务器的高效能要求，更强大的存储器－DDR5需求随之提升。与DDR4相比，DDR5具备更高速度、更大容量和更低能耗等特性。 DDR5存储器的最高传输速率达6.4Gbps，比DDR4高出一倍。
存储器介面芯片是服务器存储器模组的核心逻辑元件，作为服务器CPU存取存储器资料的必由通路，其主要作用是提升存储器资料存取的速度和稳定性，满足服务器CPU对存储器模组日益增长的高效能和大容量需求。

随着DDR存储器技术向DDR5演进，存储器介面芯片的用量也增加。英特尔和AMD支援DDR5的新平台推出后，服务器DDR5又出现了PMIC匹配问题，使得DDR5的市场规模无法快速提升，新平台的推出受阻，目前，DRAM原厂和PMIC厂商都已着手解决这个问题。虽然短期内原厂DDR5供应受阻，但由于PMIC供应厂商较多，切换及适配不会成为DDR5渗透率提升的瓶颈，服务器DDR5渗透率预计今年达到30%左右。随着AI服务器的加速发展以及PMIC良率问题逐步解决，DDR5渗透率可望进一步提升，2026年将达到85%。

在存算一体落地前，HBM将唱主角
目前，GPU主流存储器方案为GDDR和HBM（高频宽存储器）两种，其中，GDDR在SoC周围有大量外设，该方案已从GDDR5升级为GDDR6，以提高频宽。但是，如果GDDR要增加1GB的频宽，将会带来更多耗电量，不利于系统效能提升。
HBM方案作为近存运算的典型技术，可以改善存算分离导致的“储存墙”问题，即储存单元的频宽问题、储存单元与运算单元资料传输的能效问题，并且，HBM中Die芯片的垂直堆叠也增加了容量。因此，在存算一体真正落地之前，HBM技术是契合当前GPU对更多存储器、更高频宽需求的最佳方案。
HBM的特点是大容量、高频宽（频宽用于衡量DRAM传输资料的速率，是核心技术指标），它将多个DDR芯片堆叠在一起后和GPU封装在一起，实现大容量、高位宽的DDR组合阵列。
2013年，SK海力士率先推出HBM1，HBM1每个堆叠的频宽为128GB/s、支援4个DRAM堆叠集成，容量为每堆叠4GB。 2017年，SK海力士推出了HBM2，它的频宽和容量与HBM1相比实现翻倍成长。 2018年，JEDEC推出了HBM2e规范，HBM2e可以实现每堆叠461GB/s的频宽。 SK海力士于2022上半年开始量产HBM3，频宽达到819.2 GB/s，支援12个DRAM堆叠集成，容量达每堆叠24GB。 2023年，主流市场需求从HBM2e转向HBM3，HBM3需求占比提升至39%，随着使用HBM3的加速芯片陆续放量，预计2024年HBM3的市场需求占比将达到60%。
2023年底，英伟达发布了DGX GH200，进一步推升了AI服务器对内存性能的需求，DGX GH200共链接了256个Grace Hopper超级芯片，具有144TB的共享内存，GH200单卡配备了480GB LPDDR5内存和96GB的HBM显存，而在上一代DGX H100服务器中，平均单一H100芯片对应256GB存储器和80GB的HBM。二者对比，GH200方案的存储器容量有显著提升。
英伟达正在规划更多HBM供应商，美光（Micron）、SK海力士、三星都已于2023年陆续提供了8hi（24GB）样品，三星的HBM3（24GB）已经在2023年底完成验证。于HBM的验证过程繁琐，预计耗时两个季度，以上三大内存原厂都预计于2024年第一季完成验证。各原厂的HBM3e验证结果，也将决定英伟达2024年HBM供应商的采购权重分配。
展望2024年，需观察各AI芯片供应商的专案进度。
英伟达2023年的高阶AI芯片（采用HBM的）的既有产品为A100、A800和H100、H800，2024年，除了上述型号外，该公司还将推出使用6个HBM3e的H200和8个HBM3e的B100 ，并同步整合自家基于Arm架构的CPU，推出GH200和GB200。
2024年，AMD将重点介绍MI300系列，采用HBM3，下一代MI350将采用HBM3e，将在2024下半年开始进行HBM验证，预计大规模量产时间将出现在2025年第一季。
英特尔方面，2022下半年推出了Habana Gaudi 2，采用6个HBM2e，预计2024年新型号Gaudi 3将继续采取HBM2e，但用量将升级至8个。


02 三大内存原厂的表现
不久前，SK海力士公布了HBM发展路线图，该公司副总裁Kim Chun-hwan透露，计划在2024上半年量产HBM3e，并向客户交付8层堆叠样品，在6层堆叠HBM3e配置中，每层堆叠可提供1.2 TB/s的通讯频宽，8层堆叠将进一步提升HBM存储器的频宽。
Kim Chun-hwan表示，在不断升级的客户期望的推动下，储存产业正在面临激烈的生存竞争。随着制程制程节点的缩小接近极限，存储器厂商越来越关注新一代储存架构和工艺，以提供客户应用系统更高的效能。为此，SK海力士已经启动了HBM4的开发，计划于2025年提供样品，并于隔年量产。
根据美光提供的信息，与前几代HBM相比，HBM4每层堆叠的理论峰值频宽将超过1.5 TB/s。为了实现这样的频宽，在保持合理功耗的同时，HBM4的目标是实现大约6GT/s的资料传输速率。

三星也有发展HBM4的时间表，计划于2025年提供样品，并于2026年量产。根据三星高层Jaejune Kim透露，该公司HBM产量的一半以上是客制化产品，未来，客制化HBM方案的市场规模将进一步扩大。透过逻辑集成，量身定制的HBM对于满足客户个人化需求至关重要。

三星和SK海力士之间的竞争正在升温。
一些市场观察家表示，三星在HBM芯片开发方面落后于SK海力士，为了在新介面标准CXL开发中占据优势地位，三星加快了技术研发和产品布局。
三星电子执行副总裁兼美国存储器业务主管Lee Jung-bae在一篇部落格文章中表示，该公司将扩大32GB DDR5及1TB模组产能，他表示：“我们将积极利用CXL存储器模组(CMM) 等新型接口，这将有助于实现内存频宽和容量可以根据运营需求无缝扩展。”
SK海力士也表示，计划加大对高频宽存储器和DDR5芯片的投资，以适应人工智慧市场的成长需求。 “与2023年相比，2024年的资本支出将有所增加。…我们将最大限度地提升资金利用效率”，SK海力士副总裁兼首席财务官金宇贤表示：“在2023年投资金额的范围内，我们根据产品优先顺序调整了资本支出，2024年，我们将更多地关注转换过程工艺，而不只是增加产能。”
金宇贤表示，SK海力士将努力扩大第四代和第五代10nm级制程存储器芯片的比例，到2024年底，这些新品将占据该公司DRAM产量的一半以上。不过，他表示，要达到2022年第四季的产能水平，还需要相当长一段时间。
SK海力士对引领HBM市场充满信心，预测未来5年的年平均成长率将达到60%~80%。该公司DRAM行销主管Park Myung-soo表示：“我们2024年的HBM3和HBM3e芯片产能已经售罄。根据客户和市场观察人士的说法，我们的HBM3产能份额非常高。”
根据统计，2023年第三季度，SK海力士挤下三星电子，成为全球最大的服务器DRAM厂商。报告显示，2023年第三季度，SK海力士服务器DRAM销售额达到18.5亿美元，拿下49.6%的市场份额，稳居全球龙头宝座，排名第二的三星电子，在该季度的服务器DRAM销售额为13.13亿美元，市占率为35.2%，同期内，美光的服务器DRAM销售额为5.6亿美元，市占率为15.0%，排名第三。
需要指出是，以上统计数字仅是传统服务器搭载的DDR5内存，不包括用于AI服务器的HBM，若将HBM销售计算在内，SK海力士领先三星电子的幅度会更大。
2024年1月24日，SK海力士发布了FY2023财报，营收为32.77兆韩元，年减27%。单看FY2023Q4表现，营收为11.31兆韩元，较去年同期成长47%，季增25%。 DRAM业务Q4营收7.35兆韩元，年增49.15%，季增20.98%。该公司在FY2023年Q4转亏为盈，业绩开始全面反弹。 SK海力士表示，自FY2023年Q4开始，该公司用于AI服务器和行动端的产品需求都在成长，平均售价上升，存储器市场环境有所改善。整个FY2023，该公司的DRAM凭藉技术实力积极响应了客户需求，主力产品DDR5和HBM3的营收年增4倍和5倍。
就整体DRAM模组市场而言，三星电子仍稳居DRAM霸主地位，但SK海力士正急起直追。根据Omdia统计，2023年第三季度，三星电子在DRAM领域市占率为39.4%，SK海力士以35%的市占率居次位，美光排名第三，市占率为21.5%。
排名内存行业第三位的美光也在加紧布局AI服务器市场，该公司计划在2024年第一季量产HBM3e，以抢攻英伟达的超级电脑DGX GH200商机。美光技术开发事业部资深副总裁Naga Chandrasekaran表示，采用EUV技术量产的1-gamma制程产品，正在研发过程中，预计2025年量产。
业界人士指出，在HBM产品开发方面，虽然美光落后三星和SK海力士近一年时间，但在新一代HBM3e产品开发和量产进度方面，该公司加快了节奏，有望在HBM竞赛中扳回一城。

03 结语
透过分析全球芯片市场不同细分领域的年度销售数据，包括存储器、微处理器、逻辑电路、类比电路、分立元件和光电子元件，结合不同领域年度销售额年增速的趋势，依照一轮周期中年比增速的最小值为周期底部、同比增速的最大值为周期顶部，可以得出以下结论：2002年、2008年、2011年、2015年、2019年、2023年是半导体产业周期底部，2004年、2010年、2014年、2017年、2021年是周期顶部。全球半导体市场大约每隔4~5年经历一轮周期，不同细分领域周期底部时间点略有差异。
在上述所有半导体细分领域中，存储器周期波动最大，在上行周期的顶部，2010年、2017年存储器销售额年增率分别为55%、61%，在下行周期的底部，2002年、2019年存储器销售额较去年同期下降了30%、33%。根据WSTS统计，2022年全球半导体销售额为5,741亿美元，其中，存储器销售额为1,298亿美元，占全球半导体销售总额的22.6%，在过去20年内，存储器长期占半导体销售总额比重的20%以上。因此，存储器是积体电路中销售额最大的细分领域，在整个产业中占据核心地位，存储器市场变化周期是影响半导体周期的主要因素。
DRAM的上一轮周期在2017年12月左右见顶，在2019年12月触底，下行周期持续时间在两年时间，随后经历了一年半左右的上行周期，上一轮周期持续了3 -4年。本轮DRAM周期约在2021年4月见顶，于2023年9月触底，10月价格反弹。本轮下行周期持续时间已达两年半，新一轮的DRAM上行周期已经开始。
或许在2024年和2025年，存储器市场可望掀起新一波需求热潮，重现2017年和2018年辉煌的市场景象。