GPU 对比 · Hopper vs Blackwell Ultra
NVIDIA H100 vs B300。
相隔两代。B300(Blackwell Ultra)的显存是 3.6 倍(288 GB HBM3e 对比 80 GB HBM3),带宽是 2.4 倍,密集 FP8 与 BF16 吞吐量约为 2.3 倍,带 FP4 Tensor Core 和 NVLink 5。H100(Hopper)每块 GPU 每月便宜 $2,240,FP64 性能也强得多。
- 80 vs 288 GB显存
- 3.35 vs 8 TB/s显存带宽
- $1,779 vs $4,019每块 GPU 每月
H100 vs B300:该租哪一款。
适合 H100 的场景
- 您的模型、KV 缓存和批处理数据能放进单块 GPU 的 80 GB 显存(按我们的选型规则,FP8 精度下约为 60B 参数以内)。
- 您要运行 FP64 仿真或 HPC 程序:FP64 为 34 TFLOPS,B300 为 1.25。
- 您想要更低的单 GPU 月租价格:$1,779 对比 $4,019。
适合 B300 的场景
- 您要部署超大模型或长上下文:按我们的选型规则,每块 GPU 288 GB 可容纳 FP8 下约 220B 参数。
- 您想要最高的单 GPU 吞吐量:密集 FP8 与 BF16 吞吐量约为 2.3 倍,并带 FP4 Tensor Core。
- 您想要更低的每 GB 显存价格:每月 $13.95 对比 $22.24。
H100 vs B300:规格并列对比。
数据均引自 NVIDIA 公布的官方规格(按单 GPU 计),张量数据均为密集峰值吞吐量。
| 每块 GPU | NVIDIA H100 | NVIDIA B300 | B300 / H100 |
|---|---|---|---|
| 架构 | Hopper, TSMC 4N | Blackwell Ultra, TSMC 4NP | — |
| 外形规格 | SXM5 模组 | SXM 模组(HGX B300) | — |
| 显存 | 80 GB HBM3,5,120 位 | 288 GB HBM3E | 3.6× |
| 显存带宽 | 3.35 TB/s | 最高 8 TB/s | 2.4× |
| GPU 间互联 | NVLink 4,每块 GPU 900 GB/s | NVLink 5,每块 GPU 1.8 TB/s | 2× |
| FP4 张量吞吐量(密集) | 不支持 | 13.5 PFLOPS | — |
| FP8 张量吞吐量(密集) | 1,979 TFLOPS | 4,500 TFLOPS | 2.3× |
| FP16 / BF16 张量吞吐量(密集) | 989 TFLOPS | 2,250 TFLOPS | 2.3× |
| FP64 | 34 / 67 TFLOPS | 1.25 TFLOPS | 0.04× |
| 最大功耗 | 最高 700 W,可配置 | 未公布 | — |
| 每台服务器的 GPU 数量 | 1, 2, 4, 8 | 1, 2, 4, 8 | — |
| 每块 GPU 配套资源 | 20 vCPU · 200 GB RAM · 2 TB | 32 vCPU · 384 GB RAM · 3.84 TB | — |
来源: NVIDIA H100 · NVIDIA HGX · Blackwell Ultra 技术博客. 完整规格表: H100 · B300
H100 vs B300:租用价格。
在 GPUCenter,H100 每块 GPU 的月租价格为 $1,779,B300 为 $4,019,均比公开按需价格的市场中位价低 30%,支持加密货币支付,无需 KYC。按小时价格为月租价格除以 730 小时所得。
| GPUCenter | NVIDIA H100 | NVIDIA B300 | B300 / H100 |
|---|---|---|---|
| 每块 GPU 月租价格 | $1,779 | $4,019 | 2.3× |
| 等效每 GPU 小时价格 | $2.44 | $5.51 | — |
| 每 GB 显存月租价格 | $22.24 | $13.95 | 0.63× |
| 每 PFLOPS 密集 FP8 月租价格 | $899 | $893 | 相同 |
| 最大服务器 | 8× · $14,232/月 | 8× · $32,152/月 | — |
| 市场中位价(每块 GPU) | $2,548 | $5,745 | — |
| 低于中位价 | −30% | −30% | — |
无论服务器规模大小,每块 GPU 价格相同,不按小时计费。 我们如何比较价格 · 配置 H100 服务器 · 配置 B300 服务器
各款 GPU 能装下哪些模型。
按精度列出可容纳各模型的最小服务器规格;经验法则已为 KV 缓存预留余量,按 GPU 显存的 92% 可用计算。
| 模型 (总参数量) | H100 · FP8 | B300 · FP8 | H100 · 4 位 | B300 · 4 位 |
|---|---|---|---|---|
| Qwen3.5-9B | 1× | 1× | 1× | 1× |
| Gemma 4 31B | 1× | 1× | 1× | 1× |
| Llama 3.3 70B | 2× | 1× | 1× | 1× |
| gpt-oss-120b | 2× | 1× | 2× | 1× |
| DeepSeek-V4-Flash | 8× | 2× | 4× | 1× |
| Qwen3.5-397B-A17B | 8× | 2× | 4× | 1× |
| DeepSeek-R1 (671B) | — | 4× | 8× | 2× |
| Kimi K2.6 (1T) | — | 8× | — | 4× |
FP8 ≈ 1.2 字节/参数,4-bit ≈ 0.65 字节/参数。— 表示超出该 GPU 最大服务器规格。为其他模型选型 · LLM 需要多少显存?
H100 vs B300 常见问题。
详细了解各款 GPU:NVIDIA H100 · NVIDIA B300。
B300 比 H100 贵出的部分值得吗?
当单块 GPU 需要装下大模型时是值得的:一块 B300 的显存相当于 3.6 块 H100,价格约为 2.3 倍,带宽是 2.4 倍。对于能放进 80 GB 的模型和受算力限制的任务,H100 每块 GPU 每月便宜 $2,240。
H100 和 B300 使用相同的软件吗?
是的。两者都运行 CUDA 软件栈,支持 PyTorch、vLLM、SGLang 和 TensorRT-LLM,FP8 检查点在两者上都能运行。B300 另外带有 FP4 Tensor Core 和 NVLink 5。
单块 GPU 能装下什么模型?
按我们的经验法则,单块 H100 可运行 FP8 精度下约 61B 参数的模型,单块 B300 可运行 FP8 下约 220B 或 4-bit 量化下 405B 参数的模型。
