$天数智芯(09903)$ $英伟达(NVDA)$ 别只盯着纸面算力!看看评测和英伟达对比,天数智芯用PCIE Switch把16卡串成高吞吐集群,PP并行通信占比<1%,DeepSeek R1 671B实测TTFT比A800还低。 测试了英伟达A800在DeepSeek R1 671B Prefill场景下,随着输入Token个数增大,TTFT和吞吐的实测结果,由于该芯片的互联带宽较低,因此采用较大的PP能够缓解通信的大小,充分发挥芯片的硬件资源,降低延迟,提高吞吐,其 TTFT 显著低于 NVIDIA A800,同时整体吞吐性能也优于 A800,国内顶尖大模型都在测评天数,牛逼了这波
免责声明:上述内容仅代表发帖人个人观点,不构成本平台的任何投资建议。