天垓300对标英伟达H200:国产GPU从“能用”走向“值得用”
在近日举行的天数智芯2026媒体开放日上,天垓300首次面向开放实机演示,并释放了一个关键信息:在第三方实测中,天垓300的折算单卡端到端吞吐达到H200的1.05倍。这是国内首个实测性能达到H200水平的通用GPU。与此同时,软件栈展示“用AI开发AI”的新路径,彤央TY1200在实测中超越Thor T5000。
这标志着国产通用GPU迈过了一道具有重要意义的性能门槛,开始具备在复杂AI任务和高算力市场中立足的实力。这也意味着国产GPU正在进入新阶段——从解决“能不能用”的问题,转向比拼实际产出、运行效率和经济价值。
▌实测单卡吞吐达英伟达H200的1.05倍
据第三方权威机构今年完成的实测显示,在大模型典型的PD分离部署下,天垓300折算单卡整体端到端吞吐达到H200的1.05倍。
天数智芯性能实验室的实测进一步覆盖典型业务场景:在64K长上下文下,天垓300的Attention性能为H200的1.05倍;GLM-5.3模型64K规模下,保障同等用户体验的同时,MoE吞吐为H200的1.15倍;8K至128K长上下文场景下Agent首字延迟较H200降低约10%—30%;多模态生成推理吞吐相较H200提升约2%—5%;在搜广推等在线业务中,推荐推理吞吐提升21%、轻量计算时延降低26%。
这些指标各自对应着用户能够感知的体验:长上下文处理关系到长文档分析和复杂Agent能否高效运行;MoE吞吐影响同等服务要求下系统承接请求的能力;首字延迟则直接关系到用户发出请求后的等待时间。此次对标说明天垓300已在多类关键负载上进入与国际主流高水平GPU直接比较的区间。
训练方面,在基于Qwen3-32B模型的8卡整机FP8精度训练演示中,天垓300每卡有效吞吐达到H100的1.33倍。目前,强化学习已成为OpenAI、Google、Meta、xAI以及DeepSeek、Qwen、Minimax、Kimi等国内外主力模型公开采用的核心后训练路线。天垓300同样胜任强化学习训练,据条件性工程估算,以1024张卡对已有预训练基座开展一次强化学习,在40B激活参数的中心情景下,约26天可完成约1T总参数MoE模型的500亿生成Token强化学习任务。
随着日均Token调用量较2024年初增长上千倍,Token工厂正成为算力规模化落地的热门形态,也是高质量算力三要素的集中检验场。在前述第三方测试条件下,天垓300折算单卡端到端吞吐达到H200的1.05倍,为单位时间内生产更多有效Token提供了性能基础。
Token工厂不能只在短时测试中跑得快,还要在长时间满负荷运行时保持稳定。天垓300满负荷运行的步时波动为0.43%,低于对比Hopper方案的0.76%,长时间高负载不掉链子,直接保障利用率与可用率。
此外,天垓300通用架构原生支持CUDA语义,主流框架均已适配,并提供从加速卡、服务器到超节点的不同部署形态,面向多种模型与业务需求。
在规模化交付侧,天垓300已形成从加速卡、一机8卡服务器到超节点的完整系统方案。天垓300 IXL144超节点在单个标准机柜内集成144颗GPU、聚合约10.1TB显存,是目前业界密度最高的单机柜GPU超节点。据测算,其每百万有效Token成本较国际主流方案可降低约40%。其新一代P2P互联引擎面向Scale-up和Scale-out,目标是将域内单次传输延迟由3—5微秒降至1微秒;支持统一内存语义编程;同时支持大EP,将专家权重分散到更多核心。该方案已在工博会公开亮相,面向不同算力规模与机房条件的其他超节点方案也将陆续推出。
▌用AI开发AI,推动软件生态纵深发展
长期以来,GPU的讨论大多围绕算力、带宽和硬件规格展开,参数表上的数字几乎成了衡量芯片价值的默认标尺。然而,对模型与应用开发者而言,存在另一个同样重要的问题,这些能力,究竟怎样才能更快、更稳定地转化为真实可感的业务价值?
对此,天数智芯给出了自己的解法,让AI参与AI系统自身的开发,让软件能力以更易用的方式交付。天数智芯副总裁石加圣将GPGPU软件栈的升级方向概括为三个层次——易于使用、易于优化、易于开发。
易于使用,是把环境安装、配置检查与模型部署组织为智能体可调用的工具与技能,由AI协助执行并检查结果,减少开发者反复查阅文档、手动配置和排查问题的负担。数据显示,在模型PD分离部署实测中,环境准备与服务部署整体用时由1小时缩短至10分钟,人工操作由数十步减少至1步,助力开发者更便捷地使用先进推理架构。
易于优化,是结合自研性能分析工具与调优经验,让AI依据真实运行数据定位瓶颈、提出优化方案,并通过测试验证效果。根据某大模型调优任务实测,工作周期由7天缩短至2小时内;在相同硬件、模型和精度要求下,相关任务运行性能较优化前接近翻倍。开发者能够更快开展优化、获得反馈,减少对厂商技术支持的依赖。
在易于开发方面,作为首家深度接入FlyDSL的国产GPGPU厂商,天数智芯通过Agent与FlyDSL协同,让AI参与代码生成、编译、测试和性能优化。开发者明确目标与约束,AI协助生成或修改候选实现,再根据正确性检查和性能测试结果持续调整,最终完成自主开发、验证与迭代,形成从目标提出到结果验收的工程闭环。在某主流模型适配与调优实测中,过去10人天完成的工作,现在1人在小时级内就能完成,编译速度提升90%以上,理想状态可用1%的编译时间实现99%的运行性能,为更快支持新模型、尝试更多实现方案创造条件。
这些效率提升的意义,并不止于“AI写代码”的概念,更在于它触及了国产GPU生态建设中的一个结构性难题:算子开发和模型适配的人力瓶颈。国产GPU厂商普遍需要各自搭建算子生态,开发资源分散,模型厂商每适配一家芯片都需要重复投入。如果Agent能够把资深工程师的调优经验沉淀为可复用的工具与技能,客观上压缩的是新模型Day0支持和性能调优之间的时间差,恰恰是硬件参数表上看不到、却在客户采购决策中权重极高的变量。
▌把云端能力带到端侧,彤央TY1200实测超Thor T5000
随着物理AI时代数据量爆发,用户时延要求进入毫秒级,算力离数据越近、价值兑现越快;数据资产成为战略核心,财务、合同、核心源代码等高保密高合规场景需要把数据“留在本地”。同时,小参数量模型能力追平上一代大参数模型,这让大模型能力下沉,边端落地前置条件成熟。
“云端GPU厂商做端侧,不是把芯片做小,而是把能力下沉。”天数智芯彤央产品市场负责人宋远盈表示。天数智芯在云侧大规模训练与推理中积累的模型压缩、量化、蒸馏和软硬协同能力,连同通用GPU架构、编译器、算子库和性能工具,被一起带到边端。模型因此可以“生在云、长在边”:云端训练、边端部署,需要时再由云端复判,模型能力与精度保持衔接。在客户现场积累的高负载交付经验,也为工业应用、具身智能等高度要求稳定性的场景交付提供能力基础。
比如,彤央TY1200端侧算力终端标称300 TOPS稠密算力,而非行业惯用的稀疏峰值;在Qwen3.8-27B、Qwen3.6-35B-A3B等LLM模型实测中,TY1200性能达到Thor T5000的1.2倍。以实测稠密算力超越标称算力更高的芯片。
在物理AI方面,TY1200首次在国产端侧产品上实现了基于MuJoCo-Warp的GPU加速物理仿真,且整个训练与验证链路完全离线完成,不依赖云端资源。这让TY1200有望成为具身智能设备的大脑,不仅可以内置,还可“外挂”。
在现场演示中,搭载TY1000算力模组的机器狗在本地完成人脸识别与跟随主人,形成“感知—决策—行动”闭环。世界模型等物理AI负载同样在本地运行,在Cosmos-R2-2B和Cosmos-R2-8B测试中,TY1200的实测性能分别达到Thor T5000的158%和180%。
据了解,天数智芯的下一代端侧产品彤央TY2000,预计算力将达600T,把云端能力下沉的边界再向前推进一步。
▌结语
对于天数智芯,多家券商已经给出了积极的判断:国盛证券维持“买入”评级,预计2026—2028年营收30.99/64.66/105.31亿元;麦格理维持“跑赢大市”及1060港元目标价,理由是打入CSP客户且新一代GPGPU贡献逐步提升;美银证券此前也首次给予天数智芯“买入”评级,
这次天垓300的实测数据,把天数智芯的市场位置从“国产替代的选项之一”推向了“在训推主战场上具备可验证产出的供应商”。越过这条线之后,下一道门槛不再是芯片参数表上的数字,而是系统交付的成熟度和生态复用的规模,那是一个更难、但也更值得争夺的战场。
国产通用GPU的竞争基准线,也随之从“能不能跑起来”转向“在真实负载下跑得怎么样、在系统规模下跑得稳不稳、在开发者手里用得顺不顺”。在这场竞争中,天数智芯凭借天垓300、IXL144、异构协同和软件栈Agentic化,率先搭建起从单卡到系统再到场景的布局链条。
免责声明:上述内容仅代表发帖人个人观点,不构成本平台的任何投资建议。


