Как запустить DeepSeek-V4 на своём GPU-сервере

Что нужно, чтобы запустить DeepSeek-V4 на своём сервере?

Чтобы запустить DeepSeek-V4 на своём сервере, нужна память GPU для всей модели, включая всех экспертов, плюс место под KV-кэш, а также свежая версия vLLM или SGLang. По нашему правилу подбора модели DeepSeek-V4-Flash нужно около 200 ГБ памяти GPU, а DeepSeek-V4-Pro — около 1 072 ГБ. Flash помещается на одном B300; для Pro нужен целый сервер с восемью B200 или B300.

• DeepSeek-V4-Flash: от 3 836 $ в месяц на 4× RTX PRO 6000 или 4 019 $ на одном B300 (DeepSeek-V4-Flash: видеопамять и серверы).
• DeepSeek-V4-Pro: от 27 512 $ в месяц на 8× B200 (DeepSeek-V4-Pro: видеопамять и серверы).
• ПО: vLLM 0.25.0 или новее либо SGLang — с флагами из официальных рецептов.

Веса открыты, так что развёрнутая вами модель так и останется той, что работает у вас. Собственный API DeepSeek снял V4-Flash с обслуживания и на запросы к ней отвечает моделью DeepSeek-V4.1-Flash (документация API DeepSeek). Мы не публикуем бенчмарки: цифры ниже — это объёмы памяти и цены, а не скорости.

DeepSeek-V4-Flash vs Pro: две модели

DeepSeek выпустила предварительную версию V4 24 апреля 2026 г. (DeepSeek). Ей на смену пришли официальные чекпоинты DeepSeek-V4-Flash-0731 и DeepSeek-V4-Pro-0813, в которых добавлен модуль спекулятивного декодирования DSpark. Именно эти чекпоинты устанавливаются из нашего каталога.

Источники (проверены 19 октября 2026 г.): карточки моделей DeepSeek-V4-Flash, DeepSeek-V4-Pro, Flash-0731 и Pro-0813.

• Обе модели построены на смеси экспертов (MoE). У Flash каждый токен проходит через 13B параметров, у Pro — через 49B, но все эксперты должны находиться в памяти GPU, поэтому подбирайте сервер по общему числу параметров.
• Длинный контекст заложен в архитектуру. Гибрид механизмов Compressed Sparse Attention и Heavily Compressed Attention удерживает KV-кэш компактным: по заявлению DeepSeek, при 1M токенов модели Pro нужно 10% от объёма KV-кэша DeepSeek-V3.2.
• Три уровня глубины рассуждений: низкий (low), высокий (high) и максимальный (max). Для уровня max DeepSeek рекомендует контекстное окно не меньше 384K токенов.
• Flash или Pro? Самый дешёвый сервер для Flash стоит 3 836 $ в месяц против 27 512 $ для Pro. По данным DeepSeek, Flash-0731 превосходит предварительную версию Pro в перечисленных ею бенчмарках; а значение имеет сравнение Flash-0731 с Pro-0813 на ваших собственных промптах.

Системные требования DeepSeek-V4: сколько нужно видеопамяти?

Память для всех моделей мы рассчитываем одинаково: официальные веса × 1,2 — с запасом на KV-кэш и активации, причём доступными считаются 92% памяти GPU. По этому правилу работают наши страницы открытых моделей и страница оформления сервера:

DeepSeek-V4-Flash-0731: 167 ГБ × 1,2 ≈ 200 ГБ
DeepSeek-V4-Pro-0813:   893 ГБ × 1,2 ≈ 1 072 ГБ

Рецепты vLLM задают близкие минимумы: 200 ГБ памяти GPU для Flash-0731 и 960 ГБ для Pro-0813 (рецепт для Flash, рецепт для Pro). На наших страницах моделей для каждой из них указан один вариант запуска — vLLM или SGLang с официальными весами FP4/FP8; сборки для Ollama ни для одной из них в нашем каталоге нет. Самый маленький сервер каждого типа GPU, на котором помещается каждая из моделей, по нашему правилу:

— = больше самого большого сервера этого GPU. н/д = поддержка ROCm для DeepSeek-V4 в нашем каталоге пока не подтверждена, поэтому наши страницы моделей предлагают её только на GPU NVIDIA. Ни один сервер на GeForce не вмещает ни ту, ни другую модель: четыре RTX 5090 дают 118 ГБ доступной памяти.

Самый дешёвый подходящий сервер для Flash — 4× RTX PRO 6000 за 3 836 $, причём модель делится между картами через PCIe; один B300 стоит 4 019 $ и вмещает её в одиночку. Для Pro это 8× B200 за 27 512 $. Запаса в 20% хватает на умеренный контекст и несколько запросов одновременно; правило объясняется в статье сколько видеопамяти нужно LLM, а подбор GPU под модель применяет его к любой модели.

Несколько GPU: что помещается в один сервер, а что нет

В сервере GPUCenter до 8 GPU, а сами серверы не объединены ни через InfiniBand, ни через какую-либо другую сетевую фабрику, поэтому модель должна поместиться в один сервер. В серверах с 8 GPU (B300, B200, H200 и H100) NVSwitch соединяет каждый GPU со всеми остальными на полной скорости NVLink — 1,8 ТБ/с на GPU у Blackwell и 900 ГБ/с у Hopper; на это опираются тензорный параллелизм и параллелизм экспертов (см. Multi-GPU). RTX PRO 6000 и L40S обмениваются данными через PCIe.

• Flash помещается на серверах от одного до восьми GPU. На одном B300 модель вообще не нужно делить. Рецепт vLLM запускает одну копию Flash на четырёх GPU сервера с восемью H200, B200 или B300, а для RTX PRO 6000 в нём проверена конфигурация из 8 карт.
• Для Pro подходят две конфигурации: 8× B200 (доступно 1 325 ГБ) и 8× B300 (2 120 ГБ).
• Pro не помещается ни на 8× H100 (640 ГБ в сумме), ни на 8× RTX PRO 6000 (768 ГБ), ни на 8× L40S (384 ГБ): одни только веса, 893 ГБ, превышают память этих серверов, а объединить два сервера нельзя.
• Квантование почти не уменьшает Pro. Её чекпоинт хранит 1,6T параметров в 893 ГБ — около 4,5 бита на параметр, потому что эксперты уже в FP4; для сборки NVFP4 от NVIDIA vLLM указывает тот же минимум 960 ГБ. Существуют сборки сообщества с меньшей разрядностью (Hugging Face): они сторонние, их нет в нашем каталоге, и их качество вам предстоит проверить самим.

Разверните DeepSeek-V4 с vLLM или SGLang

Оба движка поддерживают DeepSeek-V4 и публикуют рецепты для этой модели: у vLLM это рецепты, у SGLang — сборник рецептов. Перед началом учтите четыре момента:

• Версия. Чекпоинтам 0731 и 0813 нужен vLLM 0.25.0 или новее — релиз, в котором появилась поддержка DSpark; апрельская предварительная версия работает начиная с 0.20.0.
• Без шаблона чата. Официальные чекпоинты поставляются без шаблона чата Jinja. В vLLM параметр --tokenizer-mode deepseek_v4 применяет кодирование сообщений DeepSeek, поэтому эндпоинт, совместимый с OpenAI, работает как обычно.
• Флаги зависят от GPU. Команды ниже рассчитаны на серверы B200 и B300 с 8 GPU. Для H200 и RTX PRO 6000 рецепт vLLM использует другие флаги, а на RTX PRO 6000 для Flash-0731 с DSpark ему пока нужен образ ночной сборки vLLM.
• Привяжите сервер к 127.0.0.1 и задайте API-ключ, а к API обращайтесь через SSH-туннель.

Pro на 8× B200 или 8× B300 с vLLM в конфигурации рецепта по умолчанию: тензорный параллелизм вместе с параллелизмом экспертов на всех восьми GPU.

KEY=$(openssl rand -hex 32); echo "$KEY"   # API-ключ для ваших клиентов
vllm serve deepseek-ai/DeepSeek-V4-Pro-0813 \
  --trust-remote-code --kv-cache-dtype fp8 --block-size 256 \
  --tensor-parallel-size 8 --enable-expert-parallel \
  --attention_config.indexer_kv_dtype=mxfp4 --moe-backend deep_gemm_mega_moe \
  --compilation-config '{"cudagraph_mode":"FULL_AND_PIECEWISE", "custom_ops":["all"]}' \
  --speculative-config '{"method":"dspark","num_speculative_tokens":7,"draft_sample_method":"probabilistic"}' \
  --tokenizer-mode deepseek_v4 --tool-call-parser deepseek_v4 --enable-auto-tool-choice \
  --reasoning-parser deepseek_v4 \
  --host 127.0.0.1 --port 8000 --api-key "$KEY"

Для максимальной производительности при большом числе пользователей рецепт рекомендует другой вариант — параллелизм данных: --data-parallel-size 8 вместо --tensor-parallel-size 8, как в собственной команде DeepSeek для узла с 4 GPU. Если вы запускаете Flash, начните с рецепта для Flash от vLLM, выбрав в нём свой GPU и число GPU. Для SGLang вот команда из карточки модели DeepSeek, настроенная на восемь GPU и с привязкой к 127.0.0.1 — этот хост SGLang использует и по умолчанию (аргументы сервера):

sglang serve --trust-remote-code \
  --model-path deepseek-ai/DeepSeek-V4-Pro-0813 --tp 8 \
  --moe-runner-backend flashinfer_mxfp4 --speculative-algorithm DSPARK \
  --mem-fraction-static 0.90 --chunked-prefill-size 4096 --swa-full-tokens-ratio 0.1 \
  --host 127.0.0.1 --port 30000 --api-key "$KEY"

# на вашем компьютере: после этого API vLLM доступен по адресу http://localhost:8000/v1
ssh -N -L 8000:127.0.0.1:8000 root@203.0.113.10

Замените 203.0.113.10 адресом своего сервера, а для SGLang пробросьте порт 30000. В vLLM клиенты выбирают глубину рассуждений в каждом запросе, например "chat_template_kwargs": {"thinking": true, "reasoning_effort": "high"}; для уровня max нужен --max-model-len не меньше 393 216 токенов. Установка, Docker и TLS-прокси описаны в руководстве по инференсу LLM с помощью vLLM.

Сколько стоит развернуть DeepSeek-V4 на своём сервере

У помесячного сервера одна цена, сколько бы токенов он ни сгенерировал. Самые дешёвые подходящие варианты в GPUCenter:

• По сравнению с почасовым GPU-облаком. Наши цены примерно на 30% ниже медианной публичной цены по требованию среди 40 GPU-облаков: восемь B200 по этой медианной цене стоят 39 360 $ за месяц круглосуточной работы. Относительно этой медианы помесячный сервер окупается, если работает больше примерно 510 часов в месяц (точка окупаемости для каждого GPU); для нескольких дней тестов почасовая оплата обходится дешевле.
• По сравнению с API с оплатой за токены. Разделите месячную цену на цену API за миллион токенов — получите объём, при котором сервер окупается, а затем убедитесь, что сервер справляется с таким объёмом. API DeepSeek больше не обслуживает V4-Flash, поэтому именно для этой модели выбор такой: свой сервер или сторонний провайдер.
• По сравнению с покупкой оборудования. Сервер с восемью B200 или B300 — крупная единовременная покупка, к которой добавляются электричество, охлаждение и размещение. Аренда превращает её в ежемесячный расход, от которого можно отказаться.

Что учесть перед арендой

• Длинным контекстам и большому числу пользователей нужно больше памяти. Наш запас в 20% рассчитан на умеренный контекст. KV-кэш V4 невелик для такой длины контекста, но окно в 1M токенов, уровень рассуждений max и множество параллельных диалогов в совокупности требуют много памяти: именно поэтому vLLM ограничивает Pro 800 000 токенов на 8× H200. Когда модель заработает, следите за использованием KV-кэша.
• Все эксперты остаются в памяти. Flash вычисляет каждый токен с помощью 13B параметров, но в память GPU должны быть загружены все 284B, а у Pro — все 1,6T.
• Проверенные конфигурации различаются. В рецепте vLLM пока нет проверенного профиля H100 для Flash, а наш каталог не подтверждает поддержку ROCm для V4. Протестируйте именно ту версию движка, тот GPU и те флаги, с которыми планируете работать.
• Заранее спланируйте загрузку. Чекпоинты весят 167 ГБ и 893 ГБ. На каждый B200 или B300 приходится 3,84 ТБ локального NVMe, в сервере на 8 GPU — 30,72 ТБ.
• Собственных бенчмарков у нас нет. Мы не публикуем замеры скорости. Арендуйте сервер на месяц и измерьте число токенов в секунду на своих промптах и при своём числе одновременных запросов.

Кому подойдёт GPUCenter

GPUCenter сдаёт в аренду выделенные GPU-серверы помесячно: до 8 GPU в сервере, root-доступ по SSH и никаких сторонних арендаторов на ваших картах. На шаге «ПО» страницы оформления сервера мы можем без дополнительной платы предустановить DeepSeek-V4-Flash или DeepSeek-V4-Pro с vLLM или SGLang на самый дешёвый сервер, который вмещает выбранную модель, и он будет онлайн менее чем через 10 минут после подтверждения платежа в блокчейне. Оплата — в Bitcoin, Ethereum, USDT, Monero или Litecoin, без KYC.

Это неудачный выбор для нескольких часов тестов — тогда почасовое облако обходится дешевле, — для модели, которой нужны несколько серверов, объединённых через InfiniBand, чего мы не предлагаем, или для управляемого API. Мы не предлагаем V4 на MI355X, пока поддержка ROCm для неё не подтверждена в нашем каталоге. Если вам нужна модель DeepSeek на этом GPU уже сейчас, наш каталог подтверждает работу DeepSeek-R1-0528 на ROCm: 4× MI355X, 5 636 $ в месяц в FP8 (MI355X vs B200). Чтобы сравнить GPU для инференса, прочитайте статью лучшая видеокарта для инференса LLM.

Вопросы о DeepSeek-V4

Можно ли запустить DeepSeek-V4-Flash на одном GPU?

Да, на одном B300 (288 ГБ): по нашему правилу подбора Flash нужно около 200 ГБ. Одного B200 (180 ГБ) или H200 (141 ГБ) мало; двух GPU любого из этих типов достаточно.

Сколько видеопамяти нужно DeepSeek-V4-Pro?

По нашему правилу — около 1 072 ГБ при 893 ГБ официальных весов; рецепт vLLM задаёт минимум 960 ГБ. С нашим запасом её вмещают только серверы 8× B200 и 8× B300.

Можно ли запустить DeepSeek-V4 на H100?

По нашему правилу Flash нужен сервер 4× H100, 7 116 $ в месяц, но в рецепте vLLM пока нет проверенного профиля H100 для этой модели. Pro не помещается: у восьми H100 в сумме 640 ГБ.

Работает ли DeepSeek-V4 на AMD MI355X?

Поддержка ROCm для DeepSeek-V4 в нашем каталоге пока не подтверждена, поэтому мы предлагаем её на серверах NVIDIA. Работа DeepSeek-R1-0528 на ROCm подтверждена: она запускается на 4× MI355X, 5 636 $ в месяц.

Можно ли использовать DeepSeek-V4 в коммерческих целях?

Код и веса распространяются под лицензией MIT, которая даёт право «использовать Программное обеспечение без ограничений» (лицензия) при условии, что вы сохраняете уведомление об авторском праве и текст разрешения. Ответственность за соблюдение её условий лежит на вас.

Что насчёт DeepSeek-V4.1-Flash?

DeepSeek выпустила её 10 сентября 2026 г.: это мультимодальная MoE-модель с 552B параметров, из которых активны 8B на входе и 16B на выходе (DeepSeek). Эта статья посвящена V4-Flash и V4-Pro — моделям V4, которые на момент написания можно предустановить через страницу оформления сервера. В рецепте vLLM для V4.1-Flash указан минимум 614 ГБ и требуется vLLM 0.31.0 или новее.