GPU 对比 · Blackwell vs Blackwell
NVIDIA RTX 5090 vs RTX 5080。
两款采用 GDDR7 显存并带 FP4 Tensor Core 的 Blackwell GeForce 显卡。RTX 5090 的显存是两倍(32 GB 对比 16 GB),带宽约为 1.9 倍,密集 FP8 与 BF16 吞吐量约为 1.9 倍;RTX 5080 每张卡每月便宜 $130。按每 GB 显存计算,RTX 5090 更便宜。
- 32 vs 16 GB显存
- 1.79 vs 0.96 TB/s显存带宽
- $329 vs $199每块 GPU 每月
RTX 5090 vs RTX 5080:该租哪一款。
适合 RTX 5090 的场景
- 您的模型需要超过 16 GB:按我们的选型规则,32 GB 单卡可容纳 FP8 下约 24B 参数,或 4-bit 下约 45B。
- 您要批量生成视频或高分辨率图像,这时 16 GB 最先不够用。
- 您想要更低的每 GB 显存价格:每月 $10.28 对比 $12.44。
适合 RTX 5080 的场景
- 您的模型能放进 16 GB:按我们的选型规则,单卡 FP8 下最多约 12B 参数,4-bit 下约 22B。
- 您想要最低的单卡价格:每月 $199 对比 $329。
- 您要并行运行许多小任务:四卡 RTX 5080 服务器每月 $796。
RTX 5090 vs RTX 5080:规格并列对比。
数据均引自 NVIDIA 公布的官方规格(按单 GPU 计),张量数据均为密集峰值吞吐量。
| 每块 GPU | NVIDIA RTX 5090 | NVIDIA RTX 5080 | RTX 5080 / RTX 5090 |
|---|---|---|---|
| 架构 | Blackwell | Blackwell | — |
| 外形规格 | PCIe Gen5 显卡 | PCIe Gen5 显卡 | — |
| 显存 | 32 GB GDDR7,512 位 | 16 GB GDDR7,256 位 | 0.5× |
| 显存带宽 | 1,792 GB/s | 960 GB/s | 0.54× |
| GPU 间互联 | 无(PCIe Gen5) | 无(PCIe Gen5) | — |
| FP4 张量吞吐量(密集) | 1.7 PFLOPS | 0.9 PFLOPS | 0.54× |
| FP8 张量吞吐量(密集) | 419 TFLOPS | 225 TFLOPS | 0.54× |
| FP16 / BF16 张量吞吐量(密集) | 209.5 TFLOPS | 112.6 TFLOPS | 0.54× |
| FP64 | — | — | — |
| 最大功耗 | 575 W | 360 W | — |
| 每台服务器的 GPU 数量 | 1, 2, 4 | 1, 2, 4 | — |
| 每块 GPU 配套资源 | 16 vCPU · 64 GB RAM · 1 TB | 8 vCPU · 32 GB RAM · 0.5 TB | — |
来源: NVIDIA GeForce RTX 5090 · RTX Blackwell 白皮书 · NVIDIA GeForce RTX 5080 · RTX Blackwell 白皮书. 完整规格表: RTX 5090 · RTX 5080
RTX 5090 vs RTX 5080:租用价格。
在 GPUCenter,RTX 5090 每块 GPU 的月租价格为 $329,RTX 5080 为 $199,均比公开按需价格的市场中位价低 30%,支持加密货币支付,无需 KYC。按小时价格为月租价格除以 730 小时所得。
| GPUCenter | NVIDIA RTX 5090 | NVIDIA RTX 5080 | RTX 5080 / RTX 5090 |
|---|---|---|---|
| 每块 GPU 月租价格 | $329 | $199 | 0.6× |
| 等效每 GPU 小时价格 | $0.45 | $0.27 | — |
| 每 GB 显存月租价格 | $10.28 | $12.44 | 1.21× |
| 每 PFLOPS 密集 FP8 月租价格 | $785 | $884 | 1.13× |
| 最大服务器 | 4× · $1,316/月 | 4× · $796/月 | — |
| 市场中位价(每块 GPU) | $481 | $299* | — |
| 低于中位价 | −32% | −33% | — |
* 市场参考价仅供参考:目前还没有服务商公布该 GPU 的按需价格。无论服务器规模大小,每块 GPU 价格相同,不按小时计费。 我们如何比较价格 · 配置 RTX 5090 服务器 · 配置 RTX 5080 服务器
各款 GPU 能装下哪些模型。
按精度列出可容纳各模型的最小服务器规格;经验法则已为 KV 缓存预留余量,按 GPU 显存的 92% 可用计算。
| 模型 (总参数量) | RTX 5090 · FP8 | RTX 5080 · FP8 | RTX 5090 · 4 位 | RTX 5080 · 4 位 |
|---|---|---|---|---|
| Qwen3.5-9B | 1× | 1× | 1× | 1× |
| Gemma 4 31B | 2× | 4× | 1× | 2× |
| Llama 3.3 70B | 4× | — | 2× | 4× |
| gpt-oss-120b | — | — | 4× | — |
| DeepSeek-V4-Flash | — | — | — | — |
| Qwen3.5-397B-A17B | — | — | — | — |
| DeepSeek-R1 (671B) | — | — | — | — |
| Kimi K2.6 (1T) | — | — | — | — |
FP8 ≈ 1.2 字节/参数,4-bit ≈ 0.65 字节/参数。— 表示超出该 GPU 最大服务器规格。为其他模型选型 · LLM 需要多少显存?
RTX 5090 vs RTX 5080 常见问题。
详细了解各款 GPU:NVIDIA RTX 5090 · NVIDIA RTX 5080。
RTX 5090 比 RTX 5080 贵出的部分值得吗?
对 AI 任务来说,当模型放不进 16 GB 或受显存带宽限制时是值得的:RTX 5090 的显存是两倍,带宽和密集 FP8 吞吐量约为 1.9 倍,每张卡每月多 $130。如果一切都能放进 16 GB,RTX 5080 更省钱。
哪一款能运行更大的模型?
RTX 5090:单卡 32 GB 对比 16 GB。四卡服务器则是 128 GB(可用约 118 GB)对比 64 GB(可用约 59 GB)。
两者都有多卡服务器吗?
有,提供 1、2 或 4 块显卡的服务器配置,通过 PCIe 互联。GeForce 显卡不支持 NVLink。
两者都支持 FP4 吗?
支持。两者都是带 FP4 Tensor Core 的 Blackwell GPU,同时支持 FP8 和 BF16。上一代 GeForce(RTX 4090)最高只到 FP8。
其他 GPU 对比。
- Blackwell vs Hopper RTX 5090 vs H100 32 vs 80 GB · 1.8 TB/s vs 3.35 TB/s $329 vs $1,779/月 · 每块 GPU
- Blackwell vs Ada Lovelace RTX 5090 vs RTX 4090 32 vs 24 GB · 1.8 TB/s vs 1 TB/s $329 vs $269/月 · 每块 GPU
- Blackwell vs Ada Lovelace RTX 5080 vs RTX 4090 16 vs 24 GB · 960 GB/s vs 1 TB/s $199 vs $269/月 · 每块 GPU
租用 RTX 5090 或 RTX 5080。
独享服务器可配置 1 至 4 块 GPU,统一月付价格,支持加密货币支付;10 分钟内上线,无需 KYC。
