8月26日,智谱正式确认:此前在开发者社区引发热议的匿名模型Ox Alpha(中文社区称“牛来”),就是其最新发布的GLM-5.3-Flash。模型代号灵感来源于国内近期热映电影《牛来》。
这个模型在正式亮相前,以匿名形式在OpenRouter和OpenCode上免费开放测试,5天内流量累计超过50万亿token,刷新了两个平台的流量增长纪录,当前使用量已超过DeepSeek的两倍以上。但真正引发市场关注的,是智谱随后披露的一个细节:这些流量,全部由国产芯片承载。
智谱在官方技术文档中表示,调用超过10万张国产芯片集群用于该模型推理服务,“硬件效率及单token成本已经达到了与主流英伟达GPU相当的水平”。
半导体研究机构SemiAnalysis随即在X平台发文评论:“所有流量均由国产芯片承载,硬件效率和单token成本已可与英伟达GPU相媲美。继Jalapeño(OpenAI自研推理芯片)昨日宣布之后,CUDA护城河再度受到考验。”
10万张国产卡:从测试到生产
智谱在技术文档中描述了这套国产芯片集群的部署细节。
单张芯片的主要瓶颈在于内存容量与带宽,支持长达100万token的上下文长度尤为困难。为此,智谱在SGLang基础上构建了专用推理引擎,采用W8A8量化、INT8/FP8/BF16混合缓存量化,以及节点内张量并行等技术,并引入生产级Encode–Prefill–Decode(EPD)分离式架构,将多模态编码、prompt预填充和逐token解码拆分为可独立调度的工作池。
智谱称,与同一硬件上的初始基线相比,端到端服务性能提升了3倍。
据《晚点LatePost》了解,这批芯片的供应商或来自华为、摩尔线程与海光。智谱官方对此未予置评,技术文档中也未明确具体芯片型号。
SemiAnalysis在评论中特别指出,此前有观点认为只有顶级前沿实验室才具备每日100万亿token的算力规模,“而这里每日100万亿token的免费流量,全部跑在国产芯片上。”
模型本身:对标DeepSeek,定价是Claude Opus 4.8的1/40
GLM-5.3-Flash的参数规模为320B总参数,激活参数18B,参数量约为上一代旗舰GLM-5.3的40%,与DeepSeek V4 Flash几乎持平。
性能方面,智谱官方评测显示,GLM-5.3-Flash在Artificial Analysis Intelligence Index(AA综合智能指数)中取得57分,超过上一代旗舰GLM-5.2,与Anthropic的Claude Opus 4.8持平,也高于DeepSeek旗舰模型V4 Pro正式版的53分。
定价方面,GLM-5.3-Flash每百万token输入0.8元,输出2.8元,缓存命中价格0.23元,为GLM-5.3的十分之一。上线前两周实行半价。
智谱表示,GLM-5.3-Flash定价为GLM-5.3的1/10,限时折扣内为GLM-5.3的1/20,为Claude Opus 4.8的1/40。
与调价后的DeepSeek V4 Flash相比(谷时输入1.5元、输出4.5元),GLM-5.3-Flash在绝大多数常规调用场景下更便宜。
架构创新:激活参数和层数近乎减半
GLM-5.3-Flash采用了与GLM-5.3完全不同的架构设计,这也是其能够以更低成本实现更高性能的核心原因。
与GLM-4.5相比,GLM-5.3-Flash总参数量相近(355B vs. 320B),但激活参数量从32B降至18B,层数从92层减至45层,几乎减半。
智谱称,GLM-5.3-Flash是首个采用稀疏注意力与线性注意力混合架构的开源前沿模型。相较于GLM-5.3,其注意力计算量与KV缓存大小分别降低了3.01倍和4.44倍。
此外,该模型是GLM-5系列首个原生多模态模型,支持图像和视频输入,也是智谱战略聚焦coding以来首次推出具备多模态能力的新模型。
涨价潮中的低价突围
GLM-5.3-Flash的发布,发生在中国AI模型市场一轮集体涨价之后。
Kimi K3输出价格高达每百万token 100元,超过前代K2.6三倍以上;智谱上半年提价后输出价格也达到28元;DeepSeek V4 Pro从6元涨至13.5元,高峰时段27元;DeepSeek V4 Flash输出价格从2元涨至4.5元,高峰时段9元。
涨价的直接后果是需求外溢。《晚点LatePost》指出,DeepSeek V4 Flash提价后,在OpenCode平台上的调用量下滑了一半,这部分需求成为国产模型厂商新的增长空间。
GLM-5.3-Flash的定价策略,正是瞄准了这一缺口。
精彩评论