Установка DeepSeek V3.2 на вашем железе, агентный стек запущен, продакшн-уровень за 14 дней

DeepSeek V3.2, open-weight модель, превзошедшая GPT-5 на самых сложных бенчмарках по рассуждениям. Выпущена 1 декабря 2025 года под лицензией MIT, сочетает архитектуру MoE 671B total / 37B active с DeepSeek Sparse Attention, мелкозернистым разреженным паттерном поверх Multi-head Latent Attention, который снижает стоимость инференса на длинном контексте, почти не теряя в качестве вывода.

  • Продакшн-переход за 14 дней
  • Coding + research агентный стек включён
  • 671B total, 37B active на токен (MoE) Параметры
  • 128K токенов Контекстное окно
  • 14 дней Продакшн-переход

DeepSeek V3.2 в двух словах

Характеристики, важные при выборе модели и железа.

Параметры

671B total, 37B active на токен

Архитектура

MoE, 256 routed + 1 shared expert, DeepSeek Sparse Attention

Контекстное окно

128K токенов (макс. вывод 64K)

Лицензия

MIT

Релиз

1 декабря 2025 (V3.2-Exp в сентябре 2025)

Варианты

V3.2 (общего назначения), V3.2-Speciale (глубокие рассуждения, без вызова инструментов)

Мин. VRAM (Q4)

376 ГБ, мульти-GPU обязательно

Мин. VRAM (FP8)

~675 ГБ, узел 8x H200

Токен/с на Mac Studio M3 Ultra 512 ГБ Q4

8-15 (один пользователь)

Токен/с на 8x H100 FP8 vLLM

200-400 батчем

Железо для DeepSeek V3.2 в продакшне

Три уровня, реальные SKU, реальные показатели пропускной способности.

  1. Начальный уровень: Mac Studio M3 Ultra 512 ГБ ($14 999) на Q4

    Пропускная способность: 8-15 токен/с. Лучше всего для: одного опытного пользователя, исследований, редких сложных задач, не для продакшн-обслуживания.

  2. Средний уровень: 4x RTX Pro 6000 Blackwell 96 ГБ ($40-56K) на Q4 или 2x AMD MI300X 192 ГБ

    Пропускная способность: 30-60 токен/с. Лучше всего для: компаний 5-15 пользователей, решающих сложные задачи, лабораторных сред, команд с интенсивной разработкой.

  3. Корпоративный уровень: 8x H100 80 ГБ ($200K), 4x H200 141 ГБ ($150-200K) или 8x B200 FP4 ($300K+)

    Пропускная способность: 200-500 токен/с. Лучше всего для: продакшн-обслуживания, агентных рабочих процессов, 50+ одновременных пользователей со сложными рассуждениями.

Выбор квантизации для этой модели

GGUF, AWQ, FP8, INT4.

Рекомендуемая квантизация

FP8 native на Hopper и Blackwell для продакшна. Q4_K_M для Mac одного пользователя. Q2_K только если нужно уместиться в 192 ГБ и вы принимаете деградацию качества рассуждений на 5-8 процентов.

Компромиссы

Модели рассуждений страдают от агрессивной квантизации больше, чем чат-модели, потому что цепочки мысли усиливают ошибки точности. Q4 держится на знаниевых и редакционных задачах. Q2_K заметно сдаёт на математике и структурированных рассуждениях. Демки на 1.58-bit существуют (2x RTX 4090 плюс RAM), но до продакшна не дотягивают.

GGUF Q2_K

Размер файла: 210 ГБ.

GGUF Q4_K_M

Размер файла: 376 ГБ.

FP8

Размер файла: ~675 ГБ.

FP16

Размер файла: 1,34 ТБ.

Агенты кодирования, которые мы подключаем к DeepSeek V3.2

DeepSeek Sparse Attention (DSA) обеспечивает почти линейное масштабирование для длинного контекста, что критично в агентных циклах, где контекст растёт с каждым вызовом инструмента.

Claude Code (с кастомным endpoint)

Официальная интеграционная цель DeepSeek. SWE-bench Verified 72-74 процента на фреймворке Claude Code. Переопределите OPENAI_BASE_URL на ваш vLLM. DeepSeek V3.2, open-модель, ближе всего приближающаяся к Claude Sonnet в связке с Claude Code. Выбор Pineido, когда покупатель хочет вывод качества Claude Code без трат на API.

Roo Code

Официально протестирован. В статье DeepSeek отмечено, что Roo Code симулирует взаимодействие с инструментами через пользовательские сообщения, и стратегия управления контекстом DeepSeek V3.2 обрабатывает это корректно. SWE-bench Verified 72-74 процента на фреймворке Roo Code. Мультирежим (Code, Architect, Ask) полностью функционален.

Cline

Провайдер OpenAI Compatible, endpoint vLLM. Следите за активным багом vLLM, когда теги вызова инструментов DeepSeek могут утекать в reasoning content в мультиходовых циклах. Последние релизы vLLM содержат фикс (коммит 36056). Зафиксируйте vLLM >= 0.11.2.

Aider

Хорошо подходит. Формат редактирования Aider согласован с instruction-following DeepSeek. Используйте --model openai/deepseek-v3.2 на вашем endpoint vLLM. Лимит 128K контекста, главное ограничение, а не точность редактирования.

OpenHands

Контейнерный агент. DeepSeek V3.2 с Terminus в режиме без мышления набрал 39.3 на Terminal Bench 2.0 по данным статьи. SWE-bench Verified 72-74 процента означает высокую производительность в автономных циклах. Выбор Pineido для задач масштаба репозитория, когда бюджет исключает frontier API.

Continue.dev

config.yaml с provider: openai, apiBase на vLLM /v1, capabilities: [tool_use]. Агентный режим автоматически определяет нативный вызов инструментов. Парсер рассуждений DeepSeek V3.2 отделяет мышление от ответа, поэтому чат-панель Continue отображается чисто.

OpenCode / OpenClaw

Официально поддерживается согласно собственному руководству DeepSeek по интеграции агентов кодирования. Конфигурация через endpoint OpenAI без изменений. Фреймворки Hermes Agent и Codex также упомянуты в документации DeepSeek.

Кейсы агентного кодирования

Где эта модель в связке с агентным стеком даёт реальные результаты.

Что клиенты сказали после запуска

Отзывы от людей, которые были в комнате, когда принимались решения.

I used to spend every Sunday reconciling contractor invoices. Now they match automatically. I got my weekends back.
Karen, Property ManagerDenver
We stopped debating architecture in circles and shipped a working release that leadership could evaluate live.
Declan, Head of OperationsLondon
They did not ask us to trust a rewrite plan. They proved one critical workflow first, then scaled from evidence.
Fatima, CTOSydney

Research-агенты на DeepSeek V3.2

Широкая обобщаемость на длинных агентных задачах, отличительная черта DeepSeek V3.2: 1800 сред и 85K сложных промптов в post-training.

GPT Researcher

Установите OPENAI_BASE_URL на vLLM. Цепочка рассуждений DeepSeek V3.2 заметно улучшает шаг планирования GPT Researcher. Отчёты 5-8 тыс. слов с 15+ источниками готовы за 5-10 минут.

LangGraph

Стандарт Pineido. Стратегии управления контекстом DeepSeek V3.2 хорошо сочетаются с моделью checkpoint-and-resume LangGraph. Когда история инструментов превышает 80 процентов бюджета 128K, LangGraph может переключиться на стратегию Summary или Discard-75 и продолжить без сбоев.

AnythingLLM

Универсальный провайдер OpenAI. Парсер рассуждений разделяет мышление и финальный ответ в чат-интерфейсе AnythingLLM. Отлично для демонстраций покупателям: цепочка мышления видна и объясняет ответ.

Open WebUI

Вызов инструментов и загрузка документов работают чисто. Переключатель режима рассуждений DeepSeek доступен через настройки каждого диалога в Open WebUI. Следите за лимитом 128K в тяжёлых чатах с документами.

CrewAI

Последовательные research-команды. Instruction-following DeepSeek V3.2 достаточно надёжен, чтобы тексты ролей и целей CrewAI управляли агентами стабильно. Используйте режим мышления для роли исследователя, режим без мышления для роли писателя.

AutoGen / AG2

GroupChat работает, но следите за стоимостью токенов: каждый ход агента воспроизводит полную историю через 128K окно DeepSeek. Используйте стратегию Discard-75 для ограничения количества раундов.

LlamaIndex

Лучшее сочетание для retrieval. Используйте query engines LlamaIndex для индексирования, затем предоставляйте их как инструменты внутри LangGraph или нативного агента DeepSeek. Парсер рассуждений раскрывает логику принятия решений при retrieval в трассировке.

Кейсы research-агентов

Где эта модель в связке с research-агентным стеком даёт отчёты, которые ваша команда действительно использует.

Фреймворки для продакшн-агентных рабочих процессов

Выбирайте фреймворк по форме рабочего процесса.

LangGraph

Продакшн-оркестрация. Лучшее сочетание со стратегиями управления контекстом DeepSeek.

CrewAI

Последовательные команды. Быстро демонстрируется благодаря надёжному instruction-following DeepSeek.

AutoGen / AG2

GroupChat. Следите за бюджетом контекста в мультиагентных дебатах при лимите 128K DeepSeek.

DSPy

Компиляция промптов. Хорошо сочетается с цепочкой рассуждений DeepSeek для оптимизации chain-of-thought.

Pydantic AI

Type-safe агенты. Надёжность структурированного вывода DeepSeek подходит для чистых схем.

LlamaIndex

Retrieval-слой. Гибридный стек с оркестрацией LangGraph поверх.

Кто выбирает DeepSeek V3.2

Три профиля покупателей, для которых эта модель, правильный выбор.

  1. Кванта-трейдинговая компания, 25 исследователей

    Задача: код стратегий, ценообразование деривативов, валидация сложной математики. Результат: рассуждения уровня золотой медали IMO/IOI in-house. Лицензия MIT проходит юридическую проверку без оговорок. ROI 8x H100 окупается за 6 месяцев против платных frontier API.

  2. Патентная юридическая фирма, 18 адвокатов, IP-ориентированная

    Задача: анализ prior art, составление формулы изобретения, экспертиза технических спецификаций по 10+ техническим областям. Результат: frontier-качество рассуждений на сложных технических претензиях, полный 128K контекст для сравнения нескольких патентов. Лицензия MIT означает отсутствие трений с атрибуцией в клиентских материалах.

  3. R&D в биотехнологиях, 30 учёных

    Задача: молекулярные рассуждения, генерация протоколов, глубокий синтез литературы. Результат: вариант Speciale даёт доказательство теорем и глубокие рассуждения на уровне закрытых лабораторий. Инвестиции в железо оправданы frontier-качеством без раскрытия данных через API.

DeepSeek V3.2 против ближайших конкурентов

Где эта модель выигрывает, где проигрывает.

vs Qwen3 235B A22B

DeepSeek V3.2 выигрывает на самой сложной математике, коде и рассуждениях уровня IMO. Qwen3 235B выигрывает по минимальному железу (143 ГБ против 376 ГБ на Q4) и гибкости гибридного режима мышления. При бюджете ниже 4x H100 Qwen3 235B, рациональный выбор.

vs GPT-5 (закрытый)

DeepSeek V3.2 сопоставим с GPT-5 на стандартных задачах. V3.2-Speciale превосходит GPT-5 в доказательстве теорем и на IMO, набирая 96.0 на AIME 2025 против 94.6 у GPT-5-High. Оборотная сторона, многословность: Speciale тратит заметно больше выходных токенов, чтобы достичь этих баллов. Преимущество V3.2: данные остаются на вашем железе. Цена: корпоративный GPU-капекс.

vs Mistral Large 3 (675B MoE)

Оба, MoE класса 670B на железе 128+ ГБ. Mistral Large 3 выигрывает по мультимодальному зрению. DeepSeek V3.2 выигрывает на рассуждениях и коде. У Mistral Large 3 чуть лучшая история для небольших компаний благодаря младшим братьям 14B/8B/3B.

Как Pineido настраивает агентов на DeepSeek V3.2

День 4: vLLM обслуживает V3.2 с парсером вызова инструментов v32 и парсером рассуждений.

День 4

vLLM запускает DeepSeek V3.2 с --tensor-parallel-size 8 (или TP=2 с DP/EP для Hopper во избежание штрафа за выравнивание голов), --tokenizer-mode deepseek_v32, --tool-call-parser deepseek_v32, --enable-auto-tool-choice, --reasoning-parser deepseek_v3, --max-model-len 131072. Зафиксируйте vLLM >= 0.11.2 для фикса мультиходовых вызовов инструментов.

День 6

Claude Code через переопределение OPENAI_BASE_URL, Roo Code как OpenAI Compatible, Cline аналогично, Aider через --openai-api-base. Scaffolds уровня SWE-bench работают из коробки, так как pipeline обучения DeepSeek включал эти фреймворки.

День 8

Open WebUI и AnythingLLM запущены. Переключатель режима рассуждений доступен per-диалог. Рабочие пространства изолируют чувствительные наборы документов.

День 10

LangGraph рабочие процессы со стратегиями управления контекстом (Summary, Discard-75) интегрированы в логику checkpoint. Три рабочих процесса поставлены: deep-research, repo-review, customer-triage.

День 12

Автономия репозитория OpenHands. Ожидаемый процент прохождения SWE-bench Verified около 70-73 процентов на рутинных задачах, исходя из диапазона бенчмарков модели 72-74 процента.

День 14

Пакет доказательств с показателями успешности вызовов инструментов, пропускной способностью, образцами трассировки рассуждений, runbook и инвентарём агентов доставлен.

Как мы разворачиваем DeepSeek V3.2 за 14 дней

Фиксированная цена.

День 1

Аудит железа. Подтверждение GPU-узла или 512 ГБ Mac. Запуск реальных задач рассуждения на V3.2 против V3.2-Speciale. Выбор варианта по рабочей нагрузке.

День 4

Запуск через vLLM с FP8 на Hopper или Blackwell. Настройка DeepSeek Sparse Attention для экономии на длинном контексте. OpenAI-совместимый API поверх.

День 9

RAG с высококачественным реранкером (BGE reranker v2-m3). Пайплайн вызова инструментов (только V3.2 base, Speciale инструменты не поддерживает). RBAC, аудит, телеметрия стоимости по эксперту.

День 14

Пен-тест пройден. MIT license NOTICE оформлен (одна строка). Продакшн-переход с базовым показателем пропускной способности FP8.

Частые вопросы, простые ответы

DeepSeek V3.2 действительно лицензирован под MIT?

Да. И репозиторий, и веса модели, MIT. Нет ограничений MAU, нет коммерческих ограничений, нет строки атрибуции в продукте. Удобная для юристов лицензия, проходящая любую проверку закупок. Вы можете распространять, дообучать и встраивать в коммерческие продукты без контакта с DeepSeek.

Можно ли запустить DeepSeek V3.2 на Mac Studio?

Mac Studio M3 Ultra 512 ГБ на Q4, самый дешёвый путь на одной машине. Около 8-15 токенов в секунду для одного пользователя. Подходит для исследований, медленно для продакшн-обслуживания. Ниже 192 ГБ унифицированной памяти придётся перейти на Q2 или 1.58-bit, и деградация качества рассуждений проявится на сложных задачах.

Что развернуть: V3.2 base или V3.2-Speciale?

Базовый V3.2 поддерживает вызов инструментов и является рабочей лошадкой для агентов, RAG и повседневной работы. Speciale, высокопроизводительный вариант для глубоких рассуждений, золотомедальный уровень на IMO и IOI, но инструменты НЕ поддерживает. Используйте base для продакшна. Добавьте Speciale как специализированный endpoint для очереди сложных рассуждений, если GPU-бюджет позволяет.

Насколько сильно можно квантизировать без потери качества?

FP8 практически без потерь на H100 и H200. Q4_K_M теряет 2-4 процента на стандартных задачах. Q2_K показывает падение 5-8 процентов на математике и структурированных рассуждениях. Для модели рассуждений не опускайтесь ниже Q4 в продакшне. Цепочки рассуждений усиливают ошибки квантизации сильнее, чем однократные ответы.

DeepSeek V3.2, реальная альтернатива Claude Sonnet для агентов кодирования?

На бенчмарках агентного кодирования DeepSeek V3.2 находится в нижней-средней части семидесятых по SWE-bench Verified (72-74 процента), на несколько пунктов позади GPT-5.1-High и Gemini 3 Pro и примерно на 7-9 пунктов позади лидера, Claude Opus 4.5 с около 81 процентом. На рутинном рефакторинге разрыв редко заметен. Решающий фактор, лицензирование: DeepSeek V3.2 под MIT, работает на вашем железе, без сторонних процессоров, без затрат на API per-token. Для покупателей с требованиями HIPAA, GDPR, оборонки или строгого NDA этот разрыв бенчмарка оправдан. Для frontier-качества без ограничений маршрутизируйте сложные 10 процентов задач к Claude через приватный BAA endpoint.

Какие флаги vLLM нужны для DeepSeek V3.2?

--tokenizer-mode deepseek_v32 --tool-call-parser deepseek_v32 --enable-auto-tool-choice --reasoning-parser deepseek_v3. Без всех четырёх вызовы инструментов возвращают пустоту или reasoning утекает в content. Зафиксируйте vLLM >= 0.11.2 для фикса мультиходового стриминга (коммит 36056). На Hopper предпочтите TP=2 с параллелизмом данных и экспертов вместо TP=8 из-за штрафа выравнивания голов в flashmla_sparse.py.

671B total, 37B active на токен (MoE) Параметры

Запишитесь на 30-минутный звонок по скопингу. Скажем, подходят ли DeepSeek V3.2 и наш агентный стек именно вам, до подписания.

Фиксированная цена.

В День 1 вы видите точную модель, точное железо, точный агентный стек, точную математику стоимости и точную позицию по соответствию требованиям.

Вы уходите с

  1. День 0 (на этой неделе): 30-минутный звонок по скопингу. Шортлист железа, выбор модели, предложение агентного стека, прогноз стоимости в вашем inbox к пятнице
  2. День 1: Аудит железа. Подтверждение GPU-узла или 512 ГБ Mac. Запуск реальных задач рассуждения на V3.2 против V3.2-Speciale. Выбор варианта по рабочей нагрузке.

АвторОснователь и имагинатор

Pineido, из города Strumica, North Macedonia, — софтверная компания, которая делает сайты, интернет-магазины, веб- и мобильные приложения, автоматизацию бизнес-процессов и ИИ для компаний в стране и за рубежом. Работа сдаётся 30-дневными спринтами по фиксированной цене, а код принадлежит клиенту.

Опубликовано Обновлено