BTC
ETH
USDT
XMR
LTC
MI355X vs H100：该租哪一款。
适合 MI355X 的场景
- 您需要部署大模型或处理长上下文：单块 GPU 提供 288 GB 显存。
- 您的框架支持 ROCm，并且想要更低的价格：每月 $1,409 对比 $1,779。
- 您想要更低的每 GB 显存价格：每月 $4.89 对比 $22.24。
适合 H100 的场景
- 您的代码依赖 CUDA 内核、TensorRT-LLM 或仅支持 CUDA 的库。
- 您的模型能放进 80 GB 显存，并且想要最成熟的软件支持。
- 您更倾向于有大量公开参考价的市场价格（我们的 MI355X 参考价仅供参考）。
MI355X vs H100：规格并列对比。
数据均引自 NVIDIA 和 AMD 公布的官方规格（按单 GPU 计），张量数据均为密集峰值吞吐量。
| 每块 GPU | AMD MI355X | NVIDIA H100 | H100 / MI355X |
|---|---|---|---|
| 架构 | CDNA 4（gfx950），TSMC 3 nm 和 6 nm | Hopper, TSMC 4N | — |
| 外形规格 | OAM 模组，液冷 | SXM5 模组 | — |
| 显存 | 288 GB HBM3E（8 个 36 GB 堆栈） | 80 GB HBM3，5,120 位 | 0.28× |
| 显存带宽 | 8 TB/s | 3.35 TB/s | 0.42× |
| GPU 间互联 | Infinity Fabric，7 条链路，每条 153.6 GB/s | NVLink 4，每块 GPU 900 GB/s | 0.84× |
| FP4 张量吞吐量（密集） | 10.1 PFLOPS | 不支持 | — |
| FP8 张量吞吐量（密集） | 5,000 TFLOPS | 1,979 TFLOPS | 0.4× |
| FP16 / BF16 张量吞吐量（密集） | 2,500 TFLOPS | 989 TFLOPS | 0.4× |
| FP64 | 78.6 TFLOPS | 34 / 67 TFLOPS | 0.43× |
| 最大功耗 | 1,400 W | 最高 700 W，可配置 | — |
| 每台服务器的 GPU 数量 | 1, 2, 4, 8 | 1, 2, 4, 8 | — |
| 每块 GPU 配套资源 | 32 vCPU · 384 GB RAM · 3.84 TB | 20 vCPU · 200 GB RAM · 2 TB | — |
来源： AMD Instinct MI355X · ROCm MI350 系列 · NVIDIA H100. 完整规格表： MI355X · H100
MI355X vs H100：租用价格。
在 GPUCenter，MI355X 每块 GPU 的月租价格为 $1,409，H100 为 $1,779，均比公开按需价格的市场中位价低 30%，支持加密货币支付，无需 KYC。按小时价格为月租价格除以 730 小时所得。
| GPUCenter | AMD MI355X | NVIDIA H100 | H100 / MI355X |
|---|---|---|---|
| 每块 GPU 月租价格 | $1,409 | $1,779 | 1.26× |
| 等效每 GPU 小时价格 | $1.93 | $2.44 | — |
| 每 GB 显存月租价格 | $4.89 | $22.24 | 4.5× |
| 每 PFLOPS 密集 FP8 月租价格 | $282 | $899 | 3.2× |
| 最大服务器 | 8× · $11,272/月 | 8× · $14,232/月 | — |
| 市场中位价（每块 GPU） | $2,022* | $2,548 | — |
| 低于中位价 | −30% | −30% | — |
* 市场参考价仅供参考：目前还没有服务商公布该 GPU 的按需价格。无论服务器规模大小，每块 GPU 价格相同，不按小时计费。 我们如何比较价格 · 配置 MI355X 服务器 · 配置 H100 服务器
各款 GPU 能装下哪些模型。
按精度列出可容纳各模型的最小服务器规格；经验法则已为 KV 缓存预留余量，按 GPU 显存的 92% 可用计算。
| 模型 （总参数量） | MI355X · FP8 | H100 · FP8 | MI355X · 4 位 | H100 · 4 位 |
|---|---|---|---|---|
| Qwen3.5-9B | 1× | 1× | 1× | 1× |
| Gemma 4 31B | 1× | 1× | 1× | 1× |
| Llama 3.3 70B | 1× | 2× | 1× | 1× |
| gpt-oss-120b | 1× | 2× | 1× | 2× |
| DeepSeek-V4-Flash | 2× | 8× | 1× | 4× |
| Qwen3.5-397B-A17B | 2× | 8× | 1× | 4× |
| DeepSeek-R1 (671B) | 4× | — | 2× | 8× |
| Kimi K2.6 (1T) | 8× | — | 4× | — |
FP8 ≈ 1.2 字节/参数，4-bit ≈ 0.65 字节/参数。— 表示超出该 GPU 最大服务器规格。为其他模型选型 · LLM 需要多少显存？
MI355X vs H100 常见问题。
详细了解各款 GPU：AMD MI355X · NVIDIA H100。
MI355X 比 H100 更快吗？
理论上其显存带宽为 2.4 倍，密集 FP8 吞吐量约为 2.5 倍。实际速度取决于您的软件针对 ROCm 的优化程度，我们不发布跑分数据。
vLLM 能在 MI355X 上运行吗？
可以：vLLM 和 SGLang 都为 AMD Instinct GPU 提供 ROCm 版本，PyTorch 也可以使用其 ROCm 版本运行。
为什么 MI355X 比 H100 便宜？
我们的价格跟随市场：每款 GPU 的定价都比我们为其找到的市场参考价低 30%，而 MI355X 的参考价更低。目前还没有服务商公开发布 MI355X 的按需价格，因此其市场参考价仅为指示性数据。
单块 GPU 能装下什么模型？
按我们的经验法则，单块 H100 可运行 FP8 精度下约 61B 参数的模型，单块 MI355X 可运行 FP8 下约 220B 或 4-bit 量化下 405B 参数的模型。