Сравнение GPU · Blackwell vs Hopper
NVIDIA RTX PRO 6000 vs H200.
RTX PRO 6000 Server Edition поколения Blackwell против H200 поколения Hopper. Плотная производительность FP8 и BF16 на бумаге примерно одинакова. У H200 141 ГБ HBM3e, втрое выше пропускная способность памяти (4,8 против 1,6 ТБ/с) и NVLink; у RTX PRO 6000 — 96 ГБ GDDR7 с ECC, тензорные ядра FP4 и цена 959 $ против 2 279 $ за GPU в месяц.
- 96 vs 141 ГБПамять GPU
- 1,6 vs 4,8 ТБ/спропускная способность памяти
- 959 $ vs 2 279 $за GPU в месяц
RTX PRO 6000 vs H200: что арендовать.
Выберите RTX PRO 6000, если
- Ваша модель помещается в 96 ГБ на GPU: модель класса 70B в FP8 (около 84 ГБ) на одной карте.
- Вы запускаете чекпойнты FP4: у RTX PRO 6000 есть тензорные ядра FP4, у GPU Hopper их нет.
- Вам нужна более низкая цена за ГБ памяти GPU: 9,99 $ против 16,16 $ в месяц.
Выберите H200, если
- Генерацию токенов в вашей нагрузке ограничивает пропускная способность памяти: 4,8 ТБ/с против 1,6 ТБ/с.
- Вашей модели нужно больше 96 ГБ на GPU: по нашему правилу оценки размера в 141 ГБ помещается примерно 108B параметров в FP8.
- Вы обучаете модели на нескольких GPU: у H200 есть NVLink (900 ГБ/с между GPU), а RTX PRO 6000 соединяются через PCIe.
Характеристики RTX PRO 6000 vs H200 в сравнении.
Данные из опубликованных характеристик NVIDIA, на GPU. Показатели тензорных ядер — это пиковая плотная производительность.
| За GPU | NVIDIA RTX PRO 6000 | NVIDIA H200 | H200 / RTX PRO 6000 |
|---|---|---|---|
| Архитектура | Blackwell | Hopper | — |
| Форм-фактор | Серверная редакция, пассивная PCIe-карта | Модуль SXM | — |
| Память GPU | 96 ГБ GDDR7 с ECC, 512-бит | 141 ГБ HBM3e | 1,47× |
| Пропускная способность памяти | 1 597 ГБ/с | 4,8 ТБ/с | 3× |
| Соединение между GPU | Нет (PCIe 5.0 x16) | NVLink 4, 900 ГБ/с на GPU | — |
| FP4-тензор (плотный) | 4,0 PFLOPS | Не поддерживается | — |
| FP8-тензор (плотный) | 2 000 TFLOPS | 1 979 TFLOPS | Одинаково |
| FP16 / BF16-тензор (плотный) | 1 000 TFLOPS | 989 TFLOPS | Одинаково |
| FP64 | — | 34 / 67 TFLOPS | — |
| Максимальная мощность | До 600 Вт, настраивается | До 700 Вт, настраивается | — |
| GPU за сервер | 1, 2, 4, 8 | 1, 2, 4, 8 | — |
| На GPU в наших серверах | 24 vCPU · 180 ГБ ОЗУ · 1,92 ТБ | 24 vCPU · 256 ГБ ОЗУ · 3,84 ТБ | — |
NVIDIA не указывает, учитывают ли тензорные показатели RTX PRO 6000 Server Edition разрежённость. Источники: NVIDIA RTX PRO 6000, серверная редакция · NVIDIA H200. Полные характеристики: RTX PRO 6000 · H200
Цена аренды RTX PRO 6000 vs H200.
В GPUCenter аренда RTX PRO 6000 стоит 959 $, а H200 — 2 279 $ за GPU в месяц, на 30% ниже медианы рынка публичных цен по требованию, оплата криптовалютой без KYC. Показатели за час — это месячная цена, делённая на 730 часов.
| GPUCenter | NVIDIA RTX PRO 6000 | NVIDIA H200 | H200 / RTX PRO 6000 |
|---|---|---|---|
| Цена за GPU в месяц | 959 $ | 2 279 $ | 2,4× |
| Эквивалент за GPU-час | 1,31 $ | 3,12 $ | — |
| За ГБ памяти GPU в месяц | 9,99 $ | 16,16 $ | 1,62× |
| За PFLOPS плотного FP8 в месяц | 480 $ | 1 152 $ | 2,4× |
| Наибольший сервер | 8× · 7 672 $/мес. | 8× · 18 232 $/мес. | — |
| Медиана рынка за GPU | 1 380 $ | 3 259 $ | — |
| Ниже медианы | −31% | −30% | — |
Одинаковая цена за GPU при любом размере сервера, без почасовой тарификации. Как мы сравниваем цены · Настроить сервер RTX PRO 6000 · Настроить сервер H200
Какие модели помещаются на каждый.
Наименьший сервер, вмещающий каждую модель, по типу точности. Приближённая оценка с запасом на KV-кэш: доступно 92% памяти GPU.
| Модель (всего параметров) | RTX PRO 6000 · FP8 | H200 · FP8 | RTX PRO 6000 · 4-бит | H200 · 4-бит |
|---|---|---|---|---|
| Qwen3.5-9B | 1× | 1× | 1× | 1× |
| Gemma 4 31B | 1× | 1× | 1× | 1× |
| Llama 3.3 70B | 1× | 1× | 1× | 1× |
| gpt-oss-120b | 2× | 2× | 1× | 1× |
| DeepSeek-V4-Flash | 4× | 4× | 4× | 2× |
| Qwen3.5-397B-A17B | 8× | 4× | 4× | 2× |
| DeepSeek-R1 (671B) | — | 8× | 8× | 4× |
| Kimi K2.6 (1T) | — | — | 8× | 8× |
FP8 ≈ 1,2 байта, 4-бит ≈ 0,65 байта на параметр. — = больше, чем самый крупный сервер с этим GPU. Рассчитать другую модель · Сколько видеопамяти нужно LLM?
Вопросы и ответы: RTX PRO 6000 vs H200.
Подробнее о каждом GPU: NVIDIA RTX PRO 6000 · NVIDIA H200.
H200 быстрее, чем RTX PRO 6000?
В задачах, упирающихся в вычисления, на бумаге они близки: около 2 000 TFLOPS плотной производительности FP8 у каждой. H200 быстрее там, где работу ограничивает память, например при генерации токенов LLM (4,8 ТБ/с против 1,6 ТБ/с), и на нескольких GPU благодаря NVLink. Мы не публикуем результаты бенчмарков.
Насколько дороже аренда H200?
За GPU в месяц: 2 279 $ против 959 $. В пересчёте на ГБ памяти GPU RTX PRO 6000 дешевле: 9,99 $ против 16,16 $ в месяц.
Можно ли запустить модель 70B на одной RTX PRO 6000?
В FP8 — да: по нашей приближённой оценке ей нужно около 84 ГБ, а у карты 96 ГБ. На одном H200 она тоже помещается, и для KV-кэша остаётся больше места.
Другие сравнения GPU.
- Hopper vs Hopper H100 vs H200 80 vs 141 ГБ · 3,35 ТБ/с vs 4,8 ТБ/с 1 779 $ vs 2 279 $/мес. за GPU
- Hopper vs Blackwell H200 vs B200 141 vs 180 ГБ · 4,8 ТБ/с vs 8 ТБ/с 2 279 $ vs 3 439 $/мес. за GPU
- Hopper vs Blackwell Ultra H200 vs B300 141 vs 288 ГБ · 4,8 ТБ/с vs 8 ТБ/с 2 279 $ vs 4 019 $/мес. за GPU
Арендуйте RTX PRO 6000 или H200.
Выделенные серверы с 1–8 GPU, единая ежемесячная цена, оплата криптовалютой. Онлайн менее чем за 10 минут, без KYC.
