美元换人民币  当前汇率7.27

2025年AI服务器SSD需求将占闪存近一成!

* 来源 : * 作者 : admin * 发表时间 : 2024-08-12
根据机构最新研究报告,由于人工智能需求大幅升温,最近两季AI服务器相关客户向供应商进一步要求加单企业级SSD。上游供应商为了满足SSD在AI应用上的供给,加速制程升级,开始规划2025年产品,预期2025年量产。
机构表示,AI服务器客户对供应商加单的情况,导致企业级SSD合约价于2023年第4季至2024年第3季间的累积涨幅超过80%。
在人工智能的发展过程中,固态硬盘(SSD)扮演着至关重要的角色。除了负责存储AI模型的参数,包括不断更新的权重和偏差外,固态硬盘还用于创建检查点,以定期保存AI模型训练的进度。这意味着即使训练中断,也能从特定的点恢复。由于这些功能极度依赖高速传输和写入耐用性,因此客户主要选择使用4TB或8TB TLC SSD产品,以满足严苛的训练需求。
固态硬盘通过提供高效的存储解决方案,确保了AI模型训练过程的连续性和稳定性。此外,随着AI技术的不断进步,对高速及高可靠性的存储设备的需求也在持续增长。选择合适的SSD产品,如4TB/8TB TLC SSD,已成为许多高性能计算环境中的首选配置,尤其是在处理大量数据和复杂计算任务时。
机构指出,SSD应用于AI推理服务器,可在推理过程中协助调整、优化AI模型,尤其SSD可以即时更新数据,以便微调推论模型成果。AI推理主要提供检索增强生成(RAG, Retrieval-Augmented Generation)和大型语言模型(LLM)服务,而SSD可以存储RAG和LLM参考的相关文档和知识库,以生成含有更丰富资讯的回应。此外,因为有更多生成资讯是以影片或相片显示,其数据的存储量也跟着增加,因此,TLC/QLC 16TB以上等大容量SSD便成为AI推理主要采用的产品。
2024年AI服务器SSD需求市场除了16TB以上产品需求自第2季大幅上升,随着英伟达H100、H20和H200等系列产品到货,相关客户开始进一步加大TLC 4、8TB enterprise SSD订单动能。
机构预测,今年与人工智能相关的固态驱动器(SSD)采购容量将超过45EB,未来几年人工智能服务器有望推动固态驱动器需求年增率平均超过60%,人工智能固态驱动器在全部NAND存储器的占比有机会从2024年的5%,上升至2025年的9%。在供给市场面,由于推断服务器采用大容量固态驱动器产品的趋势不变,供应商已开始着手加速升级工艺,计划从2025年第1季起开始量产2YY/3XX层,进而量产120TB企业级固态驱动器产品。