广发证券:AI推理驱动存储需求激增 产业链迎数百EB级空间

财中社12-16 11:24

12月16日,广发证券发表研究报告称:AI推理驱动存储需求激增,产业链迎数百EB级空间。

存储是Tokens的积分,推理驱动AI存储快速增长。

AI服务器中的存储主要包括HBM、DRAM、SSD等,呈现性能逐级下降、容量逐级增加、成本逐级降低特征。推理驱动AI存储快速增长。(一)内存受益于超长上下文和多模态推理需求,处理大量序列数据或多模态信息时,高带宽与大容量内存可降低访问延迟、提升并行效率。(二)SSD和HDD是Tokens的积分。随着AI推理需求快速增长,轻量化模型部署推动存储容量需求快速攀升,预计未来整体需求将激增至数百EB级别。

AI推理驱动存储需求增长,产业链空间广阔。

(一)AI存储服务器用eSSD空间广阔。随着长上下文推理、RAG数据库及tokens规模的快速增长,AI工作负载对高带宽、大容量eSSD的需求将持续增强,AI服务器、存储服务器中的eSSD市场空间将进一步扩大。

(二)MRDIMM有望应用于大模型推理。MRDIMM在大模型推理的KVCache场景下提供确定性增益,并发更高、上下文更长、端到端时延更低,并显著优化CPU–GPU内存编排与资源利用。

(三)SPD&VPD芯片空间广阔。随DDR5渗透不断扩大,SPD芯片技术规格和单价较DDR4世代更高,在价值量与需求量的双重维度驱动,DDR5SPD市场快速发展。SSD升级有望带来VPD成长机会。SSD性能提升将推动VPDEEPROM产品技术规格升级,VPDEEPROM价值量也有望随性能升级进一步提升。

(四)CXL存储池化助力AI推理。CXL实现存储池化,显著提升计算效率,在KVCache密集型推理中形成显著TCO优势。英伟达入股英特尔&收购Enfabrica,布局CXL能力;阿里云推出CXL存储池化服务器,提升推理吞吐。CXL协议持续在AI领域渗透,拉动芯片需求增加,作为CXL技术落地的核心载体,CXL互连芯有望在AI领域发挥更大作用。

免责声明:本文观点仅代表作者个人观点,不构成本平台的投资建议,本平台不对文章信息准确性、完整性和及时性做出任何保证,亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

我们需要你的真知灼见来填补这片空白
发表看法