
合作伙伴力挺!辉达Blackwell Ultra推论效能优异 AI部署投报率更佳
【记者吕承哲/台北报导】推论效能是人工智慧(AI)工厂经济效益的核心关键,输送量越高,就能以更快速度产生更多词元(token),进而提高营收、降低总拥有成本(TCO),并提升整体系统的生产力,辉达(NVIDIA)Blackwell Ultra 架构GB300 NVL72 机架系统,在GTC大会首度亮相半年后,便于 MLPerf Inference v5.1 推论基准测试中刷新纪录,相较于 GB200 NVL72,在 DeepSeek-R1 推论输送量上最高可达 1.4 倍。