Новинка NVIDIA B300 · серверы 288 ГБ HBM3e — от 4 019 $/мес. за GPU

Посмотреть B300

Сравнение GPU · Blackwell vs Ada Lovelace

NVIDIA RTX 5090 vs L40S.

Карта GeForce поколения Blackwell против GPU Ada для дата-центров. У L40S 48 ГБ GDDR6 с ECC, примерно в 1,75 раза выше плотная производительность FP8 и серверы до 8 GPU. У RTX 5090 — 32 ГБ GDDR7, примерно вдвое выше пропускная способность памяти (1,79 против 0,86 ТБ/с), тензорные ядра FP4 и цена 329 $ против 789 $ за GPU в месяц.

  • 32 vs 48 ГБПамять GPU
  • 1,79 vs 0,86 ТБ/спропускная способность памяти
  • 329 $ vs 789 $за GPU в месяц

RTX 5090 vs L40S: что арендовать.

Выберите RTX 5090, если

  • Ваша модель помещается в 32 ГБ на карту: по нашему правилу оценки размера — примерно до 24B параметров в FP8 или 45B в 4-битном режиме.
  • Вашу нагрузку ограничивает пропускная способность памяти, а не тензорная производительность, — например, генерация токенов для одного пользователя на модели, которая помещается в память.
  • Вам нужна более низкая цена за ГБ памяти GPU: 10,28 $ против 16,44 $ в месяц.

Серверы NVIDIA RTX 5090 от 329 $/мес.

Выберите L40S, если

  • Вашей модели нужно больше 32 ГБ на GPU: по нашему правилу оценки размера в 48 ГБ помещается примерно 36B параметров в FP8 или 67B в 4-битном режиме.
  • Вам нужна память с ECC или сервер с 8 GPU: серверы GeForce ограничены 4 картами.
  • Вы обслуживаете большой поток запросов в FP8: 733 TFLOPS плотной тензорной производительности FP8 против 419 у RTX 5090.

Серверы NVIDIA L40S от 789 $/мес.

Характеристики RTX 5090 vs L40S в сравнении.

Данные из опубликованных характеристик NVIDIA, на GPU. Показатели тензорных ядер — это пиковая плотная производительность.

Характеристики RTX 5090 vs L40S
За GPUNVIDIA RTX 5090NVIDIA L40SL40S / RTX 5090
АрхитектураBlackwellAda Lovelace—
Форм-факторВидеокарта PCIe Gen5Двухслотовая PCIe-карта с пассивным охлаждением—
Память GPU32 ГБ GDDR7, 512-бит48 ГБ GDDR6 с ECC1,5×
Пропускная способность памяти1 792 ГБ/с864 ГБ/с0,48×
Соединение между GPUНет (PCIe Gen5)Нет (PCIe Gen4 x16)—
FP4-тензор (плотный)1,7 PFLOPSНе поддерживается—
FP8-тензор (плотный)419 TFLOPS733 TFLOPS1,75×
FP16 / BF16-тензор (плотный)209,5 TFLOPS362 TFLOPS1,73×
FP64———
Максимальная мощность575 Вт350 Вт—
GPU за сервер1, 2, 41, 2, 4, 8—
На GPU в наших серверах16 vCPU · 64 ГБ ОЗУ · 1 ТБ12 vCPU · 96 ГБ ОЗУ · 1 ТБ—

Источники: NVIDIA GeForce RTX 5090 · Техническое описание архитектуры RTX Blackwell · NVIDIA L40S. Полные характеристики: RTX 5090 · L40S

Цена аренды RTX 5090 vs L40S.

В GPUCenter аренда RTX 5090 стоит 329 $, а L40S — 789 $ за GPU в месяц, на 30% ниже медианы рынка публичных цен по требованию, оплата криптовалютой без KYC. Показатели за час — это месячная цена, делённая на 730 часов.

Цены аренды RTX 5090 vs L40S
GPUCenterNVIDIA RTX 5090NVIDIA L40SL40S / RTX 5090
Цена за GPU в месяц329 $789 $2,4×
Эквивалент за GPU-час0,45 $1,08 $—
За ГБ памяти GPU в месяц10,28 $16,44 $1,6×
За PFLOPS плотного FP8 в месяц785 $1 076 $1,37×
Наибольший сервер4× · 1 316 $/мес.8× · 6 312 $/мес.—
Медиана рынка за GPU481 $1 139 $—
Ниже медианы−32%−31%—

Одинаковая цена за GPU при любом размере сервера, без почасовой тарификации. Как мы сравниваем цены · Настроить сервер RTX 5090 · Настроить сервер L40S

Какие модели помещаются на каждый.

Наименьший сервер, вмещающий каждую модель, по типу точности. Приближённая оценка с запасом на KV-кэш: доступно 92% памяти GPU.

Количество GPU, необходимое для каждой модели на RTX 5090 vs L40S
Модель (всего параметров)RTX 5090 · FP8L40S · FP8RTX 5090 · 4-битL40S · 4-бит
Qwen3.5-9B 1× 1× 1× 1×
Gemma 4 31B 2× 1× 1× 1×
Llama 3.3 70B 4× 2× 2× 2×
gpt-oss-120b — 4× 4× 2×
DeepSeek-V4-Flash — 8× — 8×
Qwen3.5-397B-A17B — — — 8×
DeepSeek-R1 (671B) — — — —
Kimi K2.6 (1T) — — — —

FP8 ≈ 1,2 байта, 4-бит ≈ 0,65 байта на параметр. — = больше, чем самый крупный сервер с этим GPU. Рассчитать другую модель · Сколько видеопамяти нужно LLM?

Вопросы и ответы: RTX 5090 vs L40S.

Подробнее о каждом GPU: NVIDIA RTX 5090 · NVIDIA L40S.

RTX 5090 быстрее, чем L40S?

Зависит от того, что ограничивает задачу. У RTX 5090 примерно вдвое выше пропускная способность памяти, а она задаёт темп генерации токенов для модели, которая помещается в память. У L40S примерно в 1,75 раза выше плотная тензорная производительность FP8 и на 16 ГБ больше памяти. Мы не публикуем результаты бенчмарков.

Почему L40S дороже RTX 5090?

Это карта для дата-центров: 48 ГБ памяти с ECC, пассивное охлаждение для плотных серверов и серверы до 8 GPU. Цену на обе карты мы ставим на 30% ниже их собственной медианы рынка.

На какой из них поместится модель 32B?

В 4-битном режиме (около 21 ГБ) — на любой, на одной карте. В FP8 (около 38 ГБ) она помещается на одной L40S; на RTX 5090 понадобятся две карты.

Арендуйте RTX 5090 или L40S.

Выделенные серверы с 1–8 GPU, единая ежемесячная цена, оплата криптовалютой. Онлайн менее чем за 10 минут, без KYC.

Личный кабинет

Войти в GPUCenter

Ваши заказы, счета и серверы в одном месте.

Новичок в GPUCenter?

Аккаунты создаются при оформлении заказа: выберите сервер и программное обеспечение, затем создайте аккаунт на шаге Аккаунт первого заказа.

Запустить сервер