LangGraph
Продакшн-оркестрация. Лучшее сочетание со стратегиями управления контекстом DeepSeek.
DeepSeek V3.2, open-weight модель, превзошедшая GPT-5 на самых сложных бенчмарках по рассуждениям. Выпущена 1 декабря 2025 года под лицензией MIT, сочетает архитектуру MoE 671B total / 37B active с DeepSeek Sparse Attention, мелкозернистым разреженным паттерном поверх Multi-head Latent Attention, который снижает стоимость инференса на длинном контексте, почти не теряя в качестве вывода.
Характеристики, важные при выборе модели и железа.
671B total, 37B active на токен
MoE, 256 routed + 1 shared expert, DeepSeek Sparse Attention
128K токенов (макс. вывод 64K)
MIT
1 декабря 2025 (V3.2-Exp в сентябре 2025)
V3.2 (общего назначения), V3.2-Speciale (глубокие рассуждения, без вызова инструментов)
376 ГБ, мульти-GPU обязательно
~675 ГБ, узел 8x H200
8-15 (один пользователь)
200-400 батчем
Три уровня, реальные SKU, реальные показатели пропускной способности.
Пропускная способность: 8-15 токен/с. Лучше всего для: одного опытного пользователя, исследований, редких сложных задач, не для продакшн-обслуживания.
Пропускная способность: 30-60 токен/с. Лучше всего для: компаний 5-15 пользователей, решающих сложные задачи, лабораторных сред, команд с интенсивной разработкой.
Пропускная способность: 200-500 токен/с. Лучше всего для: продакшн-обслуживания, агентных рабочих процессов, 50+ одновременных пользователей со сложными рассуждениями.
GGUF, AWQ, FP8, INT4.
FP8 native на Hopper и Blackwell для продакшна. Q4_K_M для Mac одного пользователя. Q2_K только если нужно уместиться в 192 ГБ и вы принимаете деградацию качества рассуждений на 5-8 процентов.
Модели рассуждений страдают от агрессивной квантизации больше, чем чат-модели, потому что цепочки мысли усиливают ошибки точности. Q4 держится на знаниевых и редакционных задачах. Q2_K заметно сдаёт на математике и структурированных рассуждениях. Демки на 1.58-bit существуют (2x RTX 4090 плюс RAM), но до продакшна не дотягивают.
Размер файла: 210 ГБ.
Размер файла: 376 ГБ.
Размер файла: ~675 ГБ.
Размер файла: 1,34 ТБ.
DeepSeek Sparse Attention (DSA) обеспечивает почти линейное масштабирование для длинного контекста, что критично в агентных циклах, где контекст растёт с каждым вызовом инструмента.
Официальная интеграционная цель DeepSeek. SWE-bench Verified 72-74 процента на фреймворке Claude Code. Переопределите OPENAI_BASE_URL на ваш vLLM. DeepSeek V3.2, open-модель, ближе всего приближающаяся к Claude Sonnet в связке с Claude Code. Выбор Pineido, когда покупатель хочет вывод качества Claude Code без трат на API.
Официально протестирован. В статье DeepSeek отмечено, что Roo Code симулирует взаимодействие с инструментами через пользовательские сообщения, и стратегия управления контекстом DeepSeek V3.2 обрабатывает это корректно. SWE-bench Verified 72-74 процента на фреймворке Roo Code. Мультирежим (Code, Architect, Ask) полностью функционален.
Провайдер OpenAI Compatible, endpoint vLLM. Следите за активным багом vLLM, когда теги вызова инструментов DeepSeek могут утекать в reasoning content в мультиходовых циклах. Последние релизы vLLM содержат фикс (коммит 36056). Зафиксируйте vLLM >= 0.11.2.
Хорошо подходит. Формат редактирования Aider согласован с instruction-following DeepSeek. Используйте --model openai/deepseek-v3.2 на вашем endpoint vLLM. Лимит 128K контекста, главное ограничение, а не точность редактирования.
Контейнерный агент. DeepSeek V3.2 с Terminus в режиме без мышления набрал 39.3 на Terminal Bench 2.0 по данным статьи. SWE-bench Verified 72-74 процента означает высокую производительность в автономных циклах. Выбор Pineido для задач масштаба репозитория, когда бюджет исключает frontier API.
config.yaml с provider: openai, apiBase на vLLM /v1, capabilities: [tool_use]. Агентный режим автоматически определяет нативный вызов инструментов. Парсер рассуждений DeepSeek V3.2 отделяет мышление от ответа, поэтому чат-панель Continue отображается чисто.
Официально поддерживается согласно собственному руководству DeepSeek по интеграции агентов кодирования. Конфигурация через endpoint OpenAI без изменений. Фреймворки Hermes Agent и Codex также упомянуты в документации DeepSeek.
Где эта модель в связке с агентным стеком даёт реальные результаты.
Отзывы от людей, которые были в комнате, когда принимались решения.
I used to spend every Sunday reconciling contractor invoices. Now they match automatically. I got my weekends back.
We stopped debating architecture in circles and shipped a working release that leadership could evaluate live.
They did not ask us to trust a rewrite plan. They proved one critical workflow first, then scaled from evidence.
Широкая обобщаемость на длинных агентных задачах, отличительная черта DeepSeek V3.2: 1800 сред и 85K сложных промптов в post-training.
Установите OPENAI_BASE_URL на vLLM. Цепочка рассуждений DeepSeek V3.2 заметно улучшает шаг планирования GPT Researcher. Отчёты 5-8 тыс. слов с 15+ источниками готовы за 5-10 минут.
Стандарт Pineido. Стратегии управления контекстом DeepSeek V3.2 хорошо сочетаются с моделью checkpoint-and-resume LangGraph. Когда история инструментов превышает 80 процентов бюджета 128K, LangGraph может переключиться на стратегию Summary или Discard-75 и продолжить без сбоев.
Универсальный провайдер OpenAI. Парсер рассуждений разделяет мышление и финальный ответ в чат-интерфейсе AnythingLLM. Отлично для демонстраций покупателям: цепочка мышления видна и объясняет ответ.
Вызов инструментов и загрузка документов работают чисто. Переключатель режима рассуждений DeepSeek доступен через настройки каждого диалога в Open WebUI. Следите за лимитом 128K в тяжёлых чатах с документами.
Последовательные research-команды. Instruction-following DeepSeek V3.2 достаточно надёжен, чтобы тексты ролей и целей CrewAI управляли агентами стабильно. Используйте режим мышления для роли исследователя, режим без мышления для роли писателя.
GroupChat работает, но следите за стоимостью токенов: каждый ход агента воспроизводит полную историю через 128K окно DeepSeek. Используйте стратегию Discard-75 для ограничения количества раундов.
Лучшее сочетание для retrieval. Используйте query engines LlamaIndex для индексирования, затем предоставляйте их как инструменты внутри LangGraph или нативного агента DeepSeek. Парсер рассуждений раскрывает логику принятия решений при retrieval в трассировке.
Где эта модель в связке с research-агентным стеком даёт отчёты, которые ваша команда действительно использует.
Выбирайте фреймворк по форме рабочего процесса.
Продакшн-оркестрация. Лучшее сочетание со стратегиями управления контекстом DeepSeek.
Последовательные команды. Быстро демонстрируется благодаря надёжному instruction-following DeepSeek.
GroupChat. Следите за бюджетом контекста в мультиагентных дебатах при лимите 128K DeepSeek.
Компиляция промптов. Хорошо сочетается с цепочкой рассуждений DeepSeek для оптимизации chain-of-thought.
Type-safe агенты. Надёжность структурированного вывода DeepSeek подходит для чистых схем.
Retrieval-слой. Гибридный стек с оркестрацией LangGraph поверх.
Три профиля покупателей, для которых эта модель, правильный выбор.
Задача: код стратегий, ценообразование деривативов, валидация сложной математики. Результат: рассуждения уровня золотой медали IMO/IOI in-house. Лицензия MIT проходит юридическую проверку без оговорок. ROI 8x H100 окупается за 6 месяцев против платных frontier API.
Задача: анализ prior art, составление формулы изобретения, экспертиза технических спецификаций по 10+ техническим областям. Результат: frontier-качество рассуждений на сложных технических претензиях, полный 128K контекст для сравнения нескольких патентов. Лицензия MIT означает отсутствие трений с атрибуцией в клиентских материалах.
Задача: молекулярные рассуждения, генерация протоколов, глубокий синтез литературы. Результат: вариант Speciale даёт доказательство теорем и глубокие рассуждения на уровне закрытых лабораторий. Инвестиции в железо оправданы frontier-качеством без раскрытия данных через API.
Где эта модель выигрывает, где проигрывает.
DeepSeek V3.2 выигрывает на самой сложной математике, коде и рассуждениях уровня IMO. Qwen3 235B выигрывает по минимальному железу (143 ГБ против 376 ГБ на Q4) и гибкости гибридного режима мышления. При бюджете ниже 4x H100 Qwen3 235B, рациональный выбор.
DeepSeek V3.2 сопоставим с GPT-5 на стандартных задачах. V3.2-Speciale превосходит GPT-5 в доказательстве теорем и на IMO, набирая 96.0 на AIME 2025 против 94.6 у GPT-5-High. Оборотная сторона, многословность: Speciale тратит заметно больше выходных токенов, чтобы достичь этих баллов. Преимущество V3.2: данные остаются на вашем железе. Цена: корпоративный GPU-капекс.
Оба, MoE класса 670B на железе 128+ ГБ. Mistral Large 3 выигрывает по мультимодальному зрению. DeepSeek V3.2 выигрывает на рассуждениях и коде. У Mistral Large 3 чуть лучшая история для небольших компаний благодаря младшим братьям 14B/8B/3B.
День 4: vLLM обслуживает V3.2 с парсером вызова инструментов v32 и парсером рассуждений.
vLLM запускает DeepSeek V3.2 с --tensor-parallel-size 8 (или TP=2 с DP/EP для Hopper во избежание штрафа за выравнивание голов), --tokenizer-mode deepseek_v32, --tool-call-parser deepseek_v32, --enable-auto-tool-choice, --reasoning-parser deepseek_v3, --max-model-len 131072. Зафиксируйте vLLM >= 0.11.2 для фикса мультиходовых вызовов инструментов.
Claude Code через переопределение OPENAI_BASE_URL, Roo Code как OpenAI Compatible, Cline аналогично, Aider через --openai-api-base. Scaffolds уровня SWE-bench работают из коробки, так как pipeline обучения DeepSeek включал эти фреймворки.
Open WebUI и AnythingLLM запущены. Переключатель режима рассуждений доступен per-диалог. Рабочие пространства изолируют чувствительные наборы документов.
LangGraph рабочие процессы со стратегиями управления контекстом (Summary, Discard-75) интегрированы в логику checkpoint. Три рабочих процесса поставлены: deep-research, repo-review, customer-triage.
Автономия репозитория OpenHands. Ожидаемый процент прохождения SWE-bench Verified около 70-73 процентов на рутинных задачах, исходя из диапазона бенчмарков модели 72-74 процента.
Пакет доказательств с показателями успешности вызовов инструментов, пропускной способностью, образцами трассировки рассуждений, runbook и инвентарём агентов доставлен.
Фиксированная цена.
Аудит железа. Подтверждение GPU-узла или 512 ГБ Mac. Запуск реальных задач рассуждения на V3.2 против V3.2-Speciale. Выбор варианта по рабочей нагрузке.
Запуск через vLLM с FP8 на Hopper или Blackwell. Настройка DeepSeek Sparse Attention для экономии на длинном контексте. OpenAI-совместимый API поверх.
RAG с высококачественным реранкером (BGE reranker v2-m3). Пайплайн вызова инструментов (только V3.2 base, Speciale инструменты не поддерживает). RBAC, аудит, телеметрия стоимости по эксперту.
Пен-тест пройден. MIT license NOTICE оформлен (одна строка). Продакшн-переход с базовым показателем пропускной способности FP8.
Да. И репозиторий, и веса модели, MIT. Нет ограничений MAU, нет коммерческих ограничений, нет строки атрибуции в продукте. Удобная для юристов лицензия, проходящая любую проверку закупок. Вы можете распространять, дообучать и встраивать в коммерческие продукты без контакта с DeepSeek.
Mac Studio M3 Ultra 512 ГБ на Q4, самый дешёвый путь на одной машине. Около 8-15 токенов в секунду для одного пользователя. Подходит для исследований, медленно для продакшн-обслуживания. Ниже 192 ГБ унифицированной памяти придётся перейти на Q2 или 1.58-bit, и деградация качества рассуждений проявится на сложных задачах.
Базовый V3.2 поддерживает вызов инструментов и является рабочей лошадкой для агентов, RAG и повседневной работы. Speciale, высокопроизводительный вариант для глубоких рассуждений, золотомедальный уровень на IMO и IOI, но инструменты НЕ поддерживает. Используйте base для продакшна. Добавьте Speciale как специализированный endpoint для очереди сложных рассуждений, если GPU-бюджет позволяет.
FP8 практически без потерь на H100 и H200. Q4_K_M теряет 2-4 процента на стандартных задачах. Q2_K показывает падение 5-8 процентов на математике и структурированных рассуждениях. Для модели рассуждений не опускайтесь ниже Q4 в продакшне. Цепочки рассуждений усиливают ошибки квантизации сильнее, чем однократные ответы.
На бенчмарках агентного кодирования DeepSeek V3.2 находится в нижней-средней части семидесятых по SWE-bench Verified (72-74 процента), на несколько пунктов позади GPT-5.1-High и Gemini 3 Pro и примерно на 7-9 пунктов позади лидера, Claude Opus 4.5 с около 81 процентом. На рутинном рефакторинге разрыв редко заметен. Решающий фактор, лицензирование: DeepSeek V3.2 под MIT, работает на вашем железе, без сторонних процессоров, без затрат на API per-token. Для покупателей с требованиями HIPAA, GDPR, оборонки или строгого NDA этот разрыв бенчмарка оправдан. Для frontier-качества без ограничений маршрутизируйте сложные 10 процентов задач к Claude через приватный BAA endpoint.
--tokenizer-mode deepseek_v32 --tool-call-parser deepseek_v32 --enable-auto-tool-choice --reasoning-parser deepseek_v3. Без всех четырёх вызовы инструментов возвращают пустоту или reasoning утекает в content. Зафиксируйте vLLM >= 0.11.2 для фикса мультиходового стриминга (коммит 36056). На Hopper предпочтите TP=2 с параллелизмом данных и экспертов вместо TP=8 из-за штрафа выравнивания голов в flashmla_sparse.py.
671B total, 37B active на токен (MoE) Параметры
Фиксированная цена.
В День 1 вы видите точную модель, точное железо, точный агентный стек, точную математику стоимости и точную позицию по соответствию требованиям.
АвторKostadin StambolievОснователь и имагинатор
Pineido, из города Strumica, North Macedonia, — софтверная компания, которая делает сайты, интернет-магазины, веб- и мобильные приложения, автоматизацию бизнес-процессов и ИИ для компаний в стране и за рубежом. Работа сдаётся 30-дневными спринтами по фиксированной цене, а код принадлежит клиенту.
Опубликовано Обновлено