8月31日，随着AI智能体和万亿参数工作负载日益成为主流，AI基础设施的性能不仅取决于计算能力，还取决于计算、内存、存储、网络和软件如何作为统一系统进行协同设计。为帮助超大规模企业和 AI 创新者构建新一代半定制AI基础架构，NVIDIA推出NVIDIA NVHBM技术，进一步扩展了NVIDIA NVLink Fusion技术方案。
NVHBM是一种新一代高带宽内存技术，可为XPU提供更高的内存性能和效率。该技术将由领先的内存合作伙伴完成验证并提供，从而让这种先进的内存能力惠及NVLink Fusion客户。通过将内存控制器集成到3D HBM堆栈，而不是集成在XPU上，与标准HBM4E相比，NVHBM可实现高达30%的内存带宽提升，将HBM功耗降低15%，并为XPU计算die释放多达25%的面积。
