Сравнение GPU · CDNA 4 vs Hopper
AMD MI355X vs NVIDIA H100.
AMD CDNA 4 против NVIDIA Hopper. У MI355X в 3,6 раза больше памяти (288 ГБ HBM3E против 80 ГБ HBM3), в 2,4 раза выше пропускная способность, примерно в 2,5 раза выше плотная производительность FP8, а также поддержка FP4 — и всё это на 370 $ дешевле за GPU в месяц. H100 работает с экосистемой CUDA без изменений.
- 288 vs 80 ГБПамять GPU
- 8 vs 3,35 ТБ/спропускная способность памяти
- 1 409 $ vs 1 779 $за GPU в месяц
MI355X vs H100: что арендовать.
Выберите MI355X, если
- Вы запускаете инференс больших моделей или длинных контекстов: 288 ГБ на GPU.
- Ваши фреймворки поддерживают ROCm, и вам нужна более низкая цена: 1 409 $ против 1 779 $ в месяц.
- Вам нужна более низкая цена за ГБ памяти GPU: 4,89 $ против 22,24 $ в месяц.
Выберите H100, если
- Ваш код зависит от CUDA-ядер, TensorRT-LLM или библиотек, работающих только с CUDA.
- Ваши модели помещаются в 80 ГБ, и вам важна максимально зрелая поддержка ПО.
- Вы предпочитаете рыночную цену с большим количеством публичных ориентиров (наша оценка для MI355X ориентировочна).
Характеристики MI355X vs H100 в сравнении.
Данные из опубликованных характеристик NVIDIA и AMD, на GPU. Показатели тензорных ядер — это пиковая плотная производительность.
| За GPU | AMD MI355X | NVIDIA H100 | H100 / MI355X |
|---|---|---|---|
| Архитектура | CDNA 4 (gfx950), TSMC 3 нм и 6 нм | Hopper, TSMC 4N | — |
| Форм-фактор | Модуль OAM с жидкостным охлаждением | Модуль SXM5 | — |
| Память GPU | 288 ГБ HBM3E (8 стеков по 36 ГБ) | 80 ГБ HBM3, 5 120-бит | 0,28× |
| Пропускная способность памяти | 8 ТБ/с | 3,35 ТБ/с | 0,42× |
| Соединение между GPU | Infinity Fabric, 7 линий по 153,6 ГБ/с | NVLink 4, 900 ГБ/с на GPU | 0,84× |
| FP4-тензор (плотный) | 10,1 PFLOPS | Не поддерживается | — |
| FP8-тензор (плотный) | 5 000 TFLOPS | 1 979 TFLOPS | 0,4× |
| FP16 / BF16-тензор (плотный) | 2 500 TFLOPS | 989 TFLOPS | 0,4× |
| FP64 | 78,6 TFLOPS | 34 / 67 TFLOPS | 0,43× |
| Максимальная мощность | 1 400 Вт | До 700 Вт, настраивается | — |
| GPU за сервер | 1, 2, 4, 8 | 1, 2, 4, 8 | — |
| На GPU в наших серверах | 32 vCPU · 384 ГБ ОЗУ · 3,84 ТБ | 20 vCPU · 200 ГБ ОЗУ · 2 ТБ | — |
Источники: AMD Instinct MI355X · Серия MI350 (ROCm) · NVIDIA H100. Полные характеристики: MI355X · H100
Цена аренды MI355X vs H100.
В GPUCenter аренда MI355X стоит 1 409 $, а H100 — 1 779 $ за GPU в месяц, на 30% ниже медианы рынка публичных цен по требованию, оплата криптовалютой без KYC. Показатели за час — это месячная цена, делённая на 730 часов.
| GPUCenter | AMD MI355X | NVIDIA H100 | H100 / MI355X |
|---|---|---|---|
| Цена за GPU в месяц | 1 409 $ | 1 779 $ | 1,26× |
| Эквивалент за GPU-час | 1,93 $ | 2,44 $ | — |
| За ГБ памяти GPU в месяц | 4,89 $ | 22,24 $ | 4,5× |
| За PFLOPS плотного FP8 в месяц | 282 $ | 899 $ | 3,2× |
| Наибольший сервер | 8× · 11 272 $/мес. | 8× · 14 232 $/мес. | — |
| Медиана рынка за GPU | 2 022 $* | 2 548 $ | — |
| Ниже медианы | −30% | −30% | — |
* Ориентировочная рыночная оценка: ни один провайдер пока не публикует цену по требованию для этого GPU. Одинаковая цена за GPU при любом размере сервера, без почасовой тарификации. Как мы сравниваем цены · Настроить сервер MI355X · Настроить сервер H100
Какие модели помещаются на каждый.
Наименьший сервер, вмещающий каждую модель, по типу точности. Приближённая оценка с запасом на KV-кэш: доступно 92% памяти GPU.
| Модель (всего параметров) | MI355X · FP8 | H100 · FP8 | MI355X · 4-бит | H100 · 4-бит |
|---|---|---|---|---|
| Qwen3.5-9B | 1× | 1× | 1× | 1× |
| Gemma 4 31B | 1× | 1× | 1× | 1× |
| Llama 3.3 70B | 1× | 2× | 1× | 1× |
| gpt-oss-120b | 1× | 2× | 1× | 2× |
| DeepSeek-V4-Flash | 2× | 8× | 1× | 4× |
| Qwen3.5-397B-A17B | 2× | 8× | 1× | 4× |
| DeepSeek-R1 (671B) | 4× | — | 2× | 8× |
| Kimi K2.6 (1T) | 8× | — | 4× | — |
FP8 ≈ 1,2 байта, 4-бит ≈ 0,65 байта на параметр. — = больше, чем самый крупный сервер с этим GPU. Рассчитать другую модель · Сколько видеопамяти нужно LLM?
Вопросы и ответы: MI355X vs H100.
Подробнее о каждом GPU: AMD MI355X · NVIDIA H100.
MI355X быстрее, чем H100?
На бумаге у неё в 2,4 раза выше пропускная способность памяти и примерно в 2,5 раза выше плотная производительность FP8. Реальная скорость зависит от того, насколько хорошо ваше ПО оптимизировано для ROCm; мы не публикуем результаты бенчмарков.
Работает ли vLLM на MI355X?
Да: vLLM и SGLang поставляются со сборками ROCm для GPU AMD Instinct, а PyTorch работает со своей сборкой для ROCm.
Почему MI355X дешевле H100?
Наши цены следуют за рынком: цена каждого GPU на 30% ниже найденного для него рыночного показателя, а у MI355X он ниже. Ни один провайдер пока не публикует цену на MI355X по требованию, поэтому его рыночный показатель ориентировочный.
Что помещается на одном GPU?
По нашей приближённой оценке — примерно 61B параметров в FP8 на одном H100 и примерно 220B в FP8 или модель 405B в 4-бит на одном MI355X.
Другие сравнения GPU.
Арендуйте MI355X или H100.
Выделенные серверы с 1–8 GPU, единая ежемесячная цена, оплата криптовалютой. Онлайн менее чем за 10 минут, без KYC.
