生成式AI应用加速，存储器方案成技术突破关键

随着生成式人工智能（Generative AI，Gen AI）应用场景不断扩大，其对高速、高带宽、低延迟存储器的需求愈发迫切。无论是模型训练还是推理，生成式AI都需即时处理海量数据，这使得存储器性能成为支撑这些应用的关键基础。

• 传统DRAM挑战与HBM的崛起
  传统DRAM在带宽与延迟方面的局限，使其逐渐难以满足生成式AI的需求。而高频宽存储器（HBM），通过硅穿孔技术（Through - Silicon Via，TSV）堆叠DRAM的设计，不仅大幅提升运算效率，更成为高性能计算领域的技术突破。
• 封装技术的未来发展
  3D IC和CoWoS等先进封装技术，将广泛应用于智能手机和个人电脑等领域。这些技术在降低延迟与能耗的同时，能有效控制成本与体积，尤其适合空间与资源有限的智能手机市场。
• 预见未来的AI模型需求
  
  虽然目前无法准确预测2030年生成式AI模型的主流类型与数量，但持续推动支持架构的进步与生态系统的建设，将是应对未来变化的核心策略。

生成式AI模型，如大型语言模型（LLM）、大型视觉模型（LVM）等，对存储器的需求涵盖训练与推理两大应用场景。训练过程中需要高频宽存储器以处理庞大数据，而推理过程则需要低延迟存储器以支撑即时决策。

• HBM在AI与服务器系统中的应用
  HBM凭借其层叠设计提供远高于传统DRAM的带宽，但高成本仍是一项挑战。未来，通过缩小DRAM制程节点并增加层叠数量，HBM的容量将进一步提升，以满足生成式AI和深度学习对高性能计算的需求。
• 存储器处理器融合技术的潜力
  
  存储器处理器（Processor In Memory，PIM）技术将数据处理直接整合至存储器层，有效消除处理器与存储器之间的瓶颈，显著提升AI应用对高带宽和低延迟的性能需求。

生成式AI的快速发展对存储器技术提出全新要求。从先进封装到处理器 - 存储器融合，存储器解决方案将在推动生成式AI技术进步中扮演重要角色。展望未来，到2027年，随着半导体制程进入2nm以下，智能手机等移动设备预计将更多地采用先进存储器技术，全方位支撑生成式AI的应用需求。