Сравнение GPU · Blackwell vs Ada Lovelace
NVIDIA RTX 5090 vs L40S.
Карта GeForce поколения Blackwell против GPU Ada для дата-центров. У L40S 48 ГБ GDDR6 с ECC, примерно в 1,75 раза выше плотная производительность FP8 и серверы до 8 GPU. У RTX 5090 — 32 ГБ GDDR7, примерно вдвое выше пропускная способность памяти (1,79 против 0,86 ТБ/с), тензорные ядра FP4 и цена 329 $ против 789 $ за GPU в месяц.
- 32 vs 48 ГБПамять GPU
- 1,79 vs 0,86 ТБ/спропускная способность памяти
- 329 $ vs 789 $за GPU в месяц
RTX 5090 vs L40S: что арендовать.
Выберите RTX 5090, если
- Ваша модель помещается в 32 ГБ на карту: по нашему правилу оценки размера — примерно до 24B параметров в FP8 или 45B в 4-битном режиме.
- Вашу нагрузку ограничивает пропускная способность памяти, а не тензорная производительность, — например, генерация токенов для одного пользователя на модели, которая помещается в память.
- Вам нужна более низкая цена за ГБ памяти GPU: 10,28 $ против 16,44 $ в месяц.
Выберите L40S, если
- Вашей модели нужно больше 32 ГБ на GPU: по нашему правилу оценки размера в 48 ГБ помещается примерно 36B параметров в FP8 или 67B в 4-битном режиме.
- Вам нужна память с ECC или сервер с 8 GPU: серверы GeForce ограничены 4 картами.
- Вы обслуживаете большой поток запросов в FP8: 733 TFLOPS плотной тензорной производительности FP8 против 419 у RTX 5090.
Характеристики RTX 5090 vs L40S в сравнении.
Данные из опубликованных характеристик NVIDIA, на GPU. Показатели тензорных ядер — это пиковая плотная производительность.
| За GPU | NVIDIA RTX 5090 | NVIDIA L40S | L40S / RTX 5090 |
|---|---|---|---|
| Архитектура | Blackwell | Ada Lovelace | — |
| Форм-фактор | Видеокарта PCIe Gen5 | Двухслотовая PCIe-карта с пассивным охлаждением | — |
| Память GPU | 32 ГБ GDDR7, 512-бит | 48 ГБ GDDR6 с ECC | 1,5× |
| Пропускная способность памяти | 1 792 ГБ/с | 864 ГБ/с | 0,48× |
| Соединение между GPU | Нет (PCIe Gen5) | Нет (PCIe Gen4 x16) | — |
| FP4-тензор (плотный) | 1,7 PFLOPS | Не поддерживается | — |
| FP8-тензор (плотный) | 419 TFLOPS | 733 TFLOPS | 1,75× |
| FP16 / BF16-тензор (плотный) | 209,5 TFLOPS | 362 TFLOPS | 1,73× |
| FP64 | — | — | — |
| Максимальная мощность | 575 Вт | 350 Вт | — |
| GPU за сервер | 1, 2, 4 | 1, 2, 4, 8 | — |
| На GPU в наших серверах | 16 vCPU · 64 ГБ ОЗУ · 1 ТБ | 12 vCPU · 96 ГБ ОЗУ · 1 ТБ | — |
Источники: NVIDIA GeForce RTX 5090 · Техническое описание архитектуры RTX Blackwell · NVIDIA L40S. Полные характеристики: RTX 5090 · L40S
Цена аренды RTX 5090 vs L40S.
В GPUCenter аренда RTX 5090 стоит 329 $, а L40S — 789 $ за GPU в месяц, на 30% ниже медианы рынка публичных цен по требованию, оплата криптовалютой без KYC. Показатели за час — это месячная цена, делённая на 730 часов.
| GPUCenter | NVIDIA RTX 5090 | NVIDIA L40S | L40S / RTX 5090 |
|---|---|---|---|
| Цена за GPU в месяц | 329 $ | 789 $ | 2,4× |
| Эквивалент за GPU-час | 0,45 $ | 1,08 $ | — |
| За ГБ памяти GPU в месяц | 10,28 $ | 16,44 $ | 1,6× |
| За PFLOPS плотного FP8 в месяц | 785 $ | 1 076 $ | 1,37× |
| Наибольший сервер | 4× · 1 316 $/мес. | 8× · 6 312 $/мес. | — |
| Медиана рынка за GPU | 481 $ | 1 139 $ | — |
| Ниже медианы | −32% | −31% | — |
Одинаковая цена за GPU при любом размере сервера, без почасовой тарификации. Как мы сравниваем цены · Настроить сервер RTX 5090 · Настроить сервер L40S
Какие модели помещаются на каждый.
Наименьший сервер, вмещающий каждую модель, по типу точности. Приближённая оценка с запасом на KV-кэш: доступно 92% памяти GPU.
| Модель (всего параметров) | RTX 5090 · FP8 | L40S · FP8 | RTX 5090 · 4-бит | L40S · 4-бит |
|---|---|---|---|---|
| Qwen3.5-9B | 1× | 1× | 1× | 1× |
| Gemma 4 31B | 2× | 1× | 1× | 1× |
| Llama 3.3 70B | 4× | 2× | 2× | 2× |
| gpt-oss-120b | — | 4× | 4× | 2× |
| DeepSeek-V4-Flash | — | 8× | — | 8× |
| Qwen3.5-397B-A17B | — | — | — | 8× |
| DeepSeek-R1 (671B) | — | — | — | — |
| Kimi K2.6 (1T) | — | — | — | — |
FP8 ≈ 1,2 байта, 4-бит ≈ 0,65 байта на параметр. — = больше, чем самый крупный сервер с этим GPU. Рассчитать другую модель · Сколько видеопамяти нужно LLM?
Вопросы и ответы: RTX 5090 vs L40S.
Подробнее о каждом GPU: NVIDIA RTX 5090 · NVIDIA L40S.
RTX 5090 быстрее, чем L40S?
Зависит от того, что ограничивает задачу. У RTX 5090 примерно вдвое выше пропускная способность памяти, а она задаёт темп генерации токенов для модели, которая помещается в память. У L40S примерно в 1,75 раза выше плотная тензорная производительность FP8 и на 16 ГБ больше памяти. Мы не публикуем результаты бенчмарков.
Почему L40S дороже RTX 5090?
Это карта для дата-центров: 48 ГБ памяти с ECC, пассивное охлаждение для плотных серверов и серверы до 8 GPU. Цену на обе карты мы ставим на 30% ниже их собственной медианы рынка.
На какой из них поместится модель 32B?
В 4-битном режиме (около 21 ГБ) — на любой, на одной карте. В FP8 (около 38 ГБ) она помещается на одной L40S; на RTX 5090 понадобятся две карты.
Другие сравнения GPU.
- Blackwell vs Hopper RTX 5090 vs H100 32 vs 80 ГБ · 1,8 ТБ/с vs 3,35 ТБ/с 329 $ vs 1 779 $/мес. за GPU
- Blackwell vs Ada Lovelace RTX 5090 vs RTX 4090 32 vs 24 ГБ · 1,8 ТБ/с vs 1 ТБ/с 329 $ vs 269 $/мес. за GPU
- Blackwell vs Blackwell RTX PRO 6000 vs RTX 5090 96 vs 32 ГБ · 1,6 ТБ/с vs 1,8 ТБ/с 959 $ vs 329 $/мес. за GPU
Арендуйте RTX 5090 или L40S.
Выделенные серверы с 1–8 GPU, единая ежемесячная цена, оплата криптовалютой. Онлайн менее чем за 10 минут, без KYC.
