生成式AI应用推动存储器技术升级,HBM竞争成为焦点
* 来源 : * 作者 : admin * 发表时间 : 2025-01-15
随着生成式人工智能(Generative AI,Gen AI)应用场景的持续扩展,对高速、高带宽、低延迟存储器的需求日益增长。无论是在模型训练还是推理过程中,生成式AI需要处理海量数据,因此存储器性能已成为支撑这一技术的核心基础。针对不同存储器技术在生成式AI中的应用,全球机构指出,高带宽存储器(High Bandwidth Memory,HBM)已成为市场关注的焦点,各大存储器厂商正积极布局相关领域。
生成式AI对存储器的双重需求
生成式AI模型(如大型语言模型LLM和大型视觉模型LVM)在训练与推理两个阶段对存储器的需求有所不同。训练阶段需要高带宽存储器处理庞大的数据集,而推理阶段则对低延迟存储器提出更高要求,以支持即时计算和决策。机构分析认为,传统DRAM因性能与成本间的平衡,仍是目前AI系统的主流选择。然而,随着AI模型的复杂性提升,不少厂商正采用先进封装技术(如3D-IC和CoWoS)来增强存储器与处理器的集成,以满足生成式AI的高性能需求。
HBM的技术优势与挑战
尽管传统DRAM在带宽与延迟方面的表现有限,高带宽存储器(HBM)通过硅穿孔技术(Through-Silicon Via,TSV)实现堆叠式设计,显著提高了运算效率。HBM以其远超传统DRAM的带宽能力满足了生成式AI和高性能计算(HPC)的需求。然而,其高成本仍是推广过程中的主要障碍。机构指出,未来通过进一步缩小DRAM制程节点、增加堆叠层数,HBM的容量与性能将持续提升,为深度学习和高效能计算提供更强的技术支撑。
全球HBM市场的竞争格局
随着生成式AI技术的快速发展,HBM成为存储器技术突破的关键领域。全球主要厂商纷纷推出创新方案以争夺市场份额,竞争格局不断演变。
此外,随着生成式AI技术的普及,存储器需求将逐步从高端市场扩展至更多领域。这为HBM市场带来增长动力,同时也为企业提供了技术创新的机会。未来,技术突破、成本控制和供应链整合将成为推动HBM市场发展的三大核心因素。
HBM作为新一代存储器解决方案,在生成式AI和高性能计算领域展现了巨大潜力。随着市场竞争加剧,各大厂商的技术创新与战略调整将决定其在全球市场中的地位。
生成式AI对存储器的双重需求
生成式AI模型(如大型语言模型LLM和大型视觉模型LVM)在训练与推理两个阶段对存储器的需求有所不同。训练阶段需要高带宽存储器处理庞大的数据集,而推理阶段则对低延迟存储器提出更高要求,以支持即时计算和决策。机构分析认为,传统DRAM因性能与成本间的平衡,仍是目前AI系统的主流选择。然而,随着AI模型的复杂性提升,不少厂商正采用先进封装技术(如3D-IC和CoWoS)来增强存储器与处理器的集成,以满足生成式AI的高性能需求。
HBM的技术优势与挑战
尽管传统DRAM在带宽与延迟方面的表现有限,高带宽存储器(HBM)通过硅穿孔技术(Through-Silicon Via,TSV)实现堆叠式设计,显著提高了运算效率。HBM以其远超传统DRAM的带宽能力满足了生成式AI和高性能计算(HPC)的需求。然而,其高成本仍是推广过程中的主要障碍。机构指出,未来通过进一步缩小DRAM制程节点、增加堆叠层数,HBM的容量与性能将持续提升,为深度学习和高效能计算提供更强的技术支撑。
全球HBM市场的竞争格局
随着生成式AI技术的快速发展,HBM成为存储器技术突破的关键领域。全球主要厂商纷纷推出创新方案以争夺市场份额,竞争格局不断演变。
-三星的策略调整
作为存储器行业的领军企业之一,三星在HBM领域面临一定挑战。其在先进封装技术上的保守态度,以及过于强调成本的产品设计,使其在高性能计算中的功耗与散热表现略显不足。为应对挑战,三星计划于2025年推出升级版HBM3e技术,重点优化基础芯片的逻辑电路,以提升产品的散热和功耗表现。
-SK海力士的技术领先地位
SK海力士凭借灵活的企业文化和持续的技术创新,保持了HBM领域的领先地位。其通过存储器单元设计优化、堆叠过程的后端管理以及基础芯片的逻辑电路改进,满足了英伟达等客户对高性能的需求,进一步巩固了市场竞争力。
-美光的追赶步伐
美光采取跳跃式发展策略,计划于2025年发布HBM3e技术。通过借鉴SK海力士的成熟工艺,并在基础芯片中优化逻辑电路,美光努力缩小与主要竞争对手之间的差距。
-中国厂商的崛起与挑战
中国厂商计划于2025年实现HBM3的本地化生产,覆盖从GPU制造到HBM存储单元的完整产业链。然而,面对美国的技术出口管制,中国厂商在先进设备与供应链整合方面可能面临长期挑战,未来竞争力的提升将成为关键。
市场前景与合作价值
机构分析认为,HBM市场的竞争不仅依赖单个厂商的技术实力,更需要生态系统的深度协作。例如,SK海力士与台积电在基础芯片上的合作,充分体现了标准化与长期合作对性能提升的重要性。 此外,随着生成式AI技术的普及,存储器需求将逐步从高端市场扩展至更多领域。这为HBM市场带来增长动力,同时也为企业提供了技术创新的机会。未来,技术突破、成本控制和供应链整合将成为推动HBM市场发展的三大核心因素。
HBM作为新一代存储器解决方案,在生成式AI和高性能计算领域展现了巨大潜力。随着市场竞争加剧,各大厂商的技术创新与战略调整将决定其在全球市场中的地位。