Google Research近日推出全新的KV缓存压缩方法TurboQuant。据称，该技术可在不损失准确性的前提下，将大语言模型的缓存内存占用至少减少6倍，并实现最高8倍的加速，旨在解决AI推理与向量搜索中的内存瓶颈问题。受此消息影响，美股存储板块集体走低。截至收盘，闪迪跌6.5%，美光科技跌超4%，西部数据跌超4%，希捷科技跌超5%。
AI 是塑造当今世界的强大力量之一。AI 依托真实的硬件、能源和经济体系运行。AI 打破了这种模式。AI 即基础设施从工业角度审视 AI，其架构可分解为五层。芯片层的进展决定了 AI 的扩展速度以及智能的可适用性。自动驾驶汽车是 AI 机器应用的具体表现。人形机器人则是 AI 具身应用的具体表现。与此同时，AI 正在提高整个知识经济领域的生产力。题中要义当你将 AI 视为必不可少的基础设施时，其影响便显而易见。AI 正在成为现代世界的基础设施。