社区

Kimi K3 一点也不吃内存

上篇写完 Kimi K3，

有读者质疑我：

"推理吃的是普通内存，

HBM 只用在训练，你搞反了吧？"

这是很多人的直觉。

但只对了一半。

真相是 ——

K3 确实"不吃内存"，

不吃你电脑里那种普通内存条（DDR）。

它吃的是更贵、更紧的 HBM。

打个比方：

GPU 是饭量惊人的大胃王，

HBM 是又粗又短的喂食管，

DDR 是又细又长的吸管。

大模型最怕的不是"算得慢"，

是"喂不饱"。

HBM 带宽是 DDR 的十几倍。

K3 官方自己就建议：

部署在 64 张以上带 HBM 的卡上。

上代 K2 才 16 张 ——

对 HBM 的胃口，一代比一代凶。

但最关键的一句在后面：

需求涌向 HBM，只是上半场。

钱能不能真留在存储厂口袋，

是另一回事。

钱正从"模型的利润"，

迁向"内存的账单"。

可这账单最后谁来收，

要看三道闸 🤔 …… 

$SK海力士(SKHY)$  $英伟达(NVDA)$  $英伟达(NVDA)$