全球疯AI 高频宽记忆体需求爆发

超微、英伟达在AI领域大PK，为全球疯AI带入另一个高潮，由于AI对运算能力与频宽要求更高，刺激高频宽记忆体（HBM3）需求爆发，中国台湾厂家爱普、宜鼎在AI伺服器记忆体应用着墨最深，近期客户询问度大增，尤其爱普早与超微在新世代记忆体技术有合作，营运可期。
业界分析，就英伟达AI平台来看，搭载的高频宽记忆体容量是传统伺服器的数百倍，并非传统记忆体可取代。这次超微更端出搭载八个MI300X晶片的Instinct运算平台，内存高达1.5TB的第三代高频宽记忆体，并宣称MI300X的记忆体是英伟达最强AI晶片H1000的2.4倍，频宽是H100的1.6倍，预料引爆更多高频宽记忆体需求。
爱普与超微已有新世代记忆体合作。爱普2022年第2季宣布，加入由台积电、英特尔、超微等共同推动的UCIe联盟，期望透过其DRAM介面异质整合高频宽记忆体（VHM）技术，推动小晶片（chiplet）生态圈发展，与国际大厂在AI及高效能运算（HPC）3D先进封装领域扩大合作。
爱普认为，现阶段高频宽记忆体HBM以及2.5D不能满足市场高端需求，以近期很红的ChatGPT来说，用的是Open AI技术，有1,300个模型参数，要强大记忆体支援，但会遇到频宽问题，爱普的3DIC堆叠的VHM是选择之一，未来商机很大。
爱普强调，现阶段AI事业应用逐步扩及高效能运算相关客户，已经启动的POC（概念验证）项目进展顺利，新的项目亦正洽谈中。
宜鼎也被市场视为AI伺服器记忆体厂商，耕耘AI及AIoT多年，子公司安缇主攻边缘运算伺服器GPU。据悉，当前AI相关产品占营收比重约9%，将持续增加。