• 点赞
  • 评论
  • 收藏

黄仁勋:AI彻底改变计算堆栈,现在,存储也加入了这场变革丨直击CES

新浪科技01-06

专题:2026年度国际消费电子展(CES)

  新浪科技讯 1月6日上午消息,在国际消费电子产品展览会(CES 2026)上,NVIDIA宣布,NVIDIA BlueField-4数据处理器作为全栈NVIDIA BlueField平台的一部分,为NVIDIA推理上下文记忆存储平台提供支持,这是一种新型AI原生存储基础设施,专为AI新前沿而打造。

  随着AI模型扩展到数万亿参数和多步骤推理,它们会生成大量的上下文数据,并以键值(Key-Value,KV)缓存表示,这对准确性、用户体验和连续性至关重要。键值(KV)缓存无法长期存储在GPU上,因为这会成为多智能体系统中实时推理的瓶颈。AI原生应用需要一种新型的可扩展基础设施来存储和共享这些数据。

  据悉,NVIDIA推理上下文记忆存储平台通过扩展GPU内存容量为上下文记忆提供基础设施,实现跨节点的高速共享,与传统存储相比,可将每秒处理的token数量和能效提升高达5倍。

  NVIDIA创始人兼首席执行官黄仁勋表示:“AI正在彻底改变整个计算堆栈,现在,存储也加入了这场变革。AI不再是那种单次交互的聊天机器人,而是能够理解物理世界、进行长期推理、基于事实、使用工具完成实际工作并兼具短期和长期记忆的智能协作伙伴。借助BlueField-4,NVIDIA及其软硬件合作伙伴正在为AI新前沿重塑存储堆栈。”

  NVIDIA推理上下文记忆存储平台可提升键值(KV)缓存容量,并加速机架规模AI系统集群之间的上下文共享,同时为多轮AI智能体的上下文持久地提高响应速度和AI工厂吞吐量,并支持长上下文、多智能体推理的高效扩展。(文猛)

海量资讯、精准解读,尽在新浪财经APP

责任编辑:江钰涵

免责声明:本文观点仅代表作者个人观点,不构成本平台的投资建议,本平台不对文章信息准确性、完整性和及时性做出任何保证,亦不对因使用或信赖文章信息引发的任何损失承担责任。

举报

评论

empty
暂无评论
 
 
 
 

热议股票

 
 
 
 
 

7x24