LangGraph
Продакшн-оркестрация. 256K контекст плюс checkpoints LangGraph обрабатывают очень длинные рабочие процессы.
Mistral Large 3 - сильнейшая модель с открытыми весами от западной лаборатории в 2026 году. Выпущена 2 декабря 2025 года под Apache 2.0, она поставляется как гранулярная MoE на 675 миллиардов параметров с 41 миллиардом активных на токен, плюс энкодер зрения на 2.5 миллиарда параметров, плюс контекст 256K.
Характеристики, важные при выборе модели и железа.
675B total, 41B active на токен, плюс 2.5B vision encoder
Гранулярная MoE, мультимодальная (текст + зрение)
256K токенов
Apache 2.0
2 декабря 2025
3 000 NVIDIA H200
73.1 (независимый бенчмарк)
93.6
~38 токен/с
~340 ГБ, 8x A100/H100/B200
~675 ГБ, узел 8x H200
244 ГБ
Три уровня, реальные SKU, реальные показатели пропускной способности.
Пропускная способность: 10-25 токенов/сек. Лучше всего для: только лабораторная и пилотная работа, не для продакшн-обслуживания. Для МСБ лучше использовать модели семейства Mistral 3 14B или 8B на одном GPU.
Пропускная способность: 60-120 токенов/сек. Лучше всего для: компаний на 20-50 пользователей, запускающих зрение плюс текст до 64K контекста, vLLM с --tensor-parallel-size 4 и парсером инструментов Mistral. На A100/H100 NVFP4 работает через откат Marlin FP4 (выигрыш по памяти, без ускорения относительно FP8).
Пропускная способность: 150-300 токен/с. Лучше всего для: продакшна с полным 256K контекстом, мультиарендного деплоя, агентных рабочих процессов со зрением.
GGUF, AWQ, FP8, INT4.
NVFP4 для продакшна с контекстом менее 64K на H100 или A100 (практически без потерь на тексте, вдвое меньше памяти, чем FP8, tensor-parallel-size 4). FP8 для полного контекста 256K на узле 8x H200, и FP8, когда вы планируете дообучение. GGUF Q4 только для лабораторной и офлайн-пакетной работы.
NVFP4 откалиброван в основном на тексте, поэтому ожидайте незначительную регрессию на наборах данных зрения и падение качества за пределами 64K контекста - именно там вы переключаетесь на FP8. На A100 или H100 vLLM откатывается к Marlin FP4: вы сохраняете выигрыш по памяти, но не ускорение относительно FP8, и только B200 имеет нативный путь ускорения NVFP4. FP8 также более точный выбор для дообучения. GGUF Q4 работает, но пропускная способность ограничена полосой пропускания на потребительских GPU, а парсеру вызова инструментов нужна специфичная для Mistral конфигурация. Энкодер зрения на 2,5B работает в FP16 независимо от квантизации LLM.
Размер файла: ~340 ГБ.
Размер файла: ~675 ГБ.
Размер файла: 244 ГБ.
Размер файла: 370 ГБ.
Выпущена 2 декабря 2025 года под Apache 2.0, 41B активных / 675B суммарно MoE, контекст 256K, нативный вызов функций и вывод JSON.
Официальный агентный CLI Mistral: npm install -g @mistralai/vibe-cli. Нативен к формату инструментов Mistral. Доступен как расширение Zed. Используйте для наилучшего first-party опыта, особенно когда покупатель уже на корпоративном тарифе Mistral.
Mistral, first-class провайдер Cline. Конфигурация OpenAI Compatible работает с вашим endpoint vLLM. Cline подтвердил надёжность вызова инструментов Devstral 2, и Mistral Large 3 наследует тот же шаблон чата. Режимы Plan и Act функциональны.
Mistral Large 3 работает нативно: aider --model mistralai/mistral-large-3 --api-key $MISTRAL_API_KEY для hosted, или --openai-api-base http://your-vllm:8000/v1 для self-hosted. Формат редактирования применяется чисто для Python, TypeScript, Go.
config.yaml с provider: mistral или openai (кастомный apiBase). Объявите capabilities: [tool_use, image_input] для мультимодального флагмана. Роли chat и edit работают; сочетайте с меньшей быстрой моделью для роли autocomplete.
Форк Cline. Та же конфигурация OpenAI-compatible. Мультирежим (Code, Architect, Ask, Debug) функционален. 256K контекст Mistral Large 3 открывает полный план репозиторного контекста в режиме Architect.
Работает, но Devstral 2, лучшая модель Mistral для автономии репозитория. Используйте Mistral Large 3 только при консолидированном деплое одной модели. Установите LLM_BASE_URL на vLLM, ожидайте прохождение SWE-bench Verified в диапазоне 35-45 процентов.
Корпоративный пакет кодирования Mistral: in-IDE ассистент, модели, локальный деплой, поддержка. Включает Mistral Large 3 плюс Devstral 2 плюс инструментарий. Используется, когда покупатель хочет вендорный пакет с поддержкой, а не собранный вручную стек.
Где эта модель в связке с агентным стеком даёт реальные результаты.
Контекст 256K справляется с глубоким синтезом документов.
Стандартное переопределение OPENAI_BASE_URL. Instruction following Mistral Large 3 надёжен, паттерн plan-and-execute GPT Researcher работает без правки промптов. Отчёты готовы за 4-7 минут по 5-10 источникам.
Универсальный провайдер OpenAI работает. Флаг parallel_tool_calls Mistral означает, что режим @agent может вызывать несколько инструментов за один ход, что ускоряет мультиинструментальные research-рабочие процессы.
Загрузка документов, веб-поиск, function calling, всё работает. 256K контекст выделяется для чатов по нескольким документам. Сочетайте со спекулятивным декодированием EAGLE Mistral для более быстрой потоковой передачи.
Продакшн-оркестрация исследований. 256K контекст Mistral Large 3 позволяет LangGraph хранить более длинное состояние агента без сжатия checkpoint. Работают как langchain-mistral, так и langchain-openai с переопределением apiBase.
Ролевые команды. Надёжный instruction following и параллельный вызов инструментов Mistral Large 3 подходят для последовательного паттерна CrewAI. Установите llm в конфигурации агента.
GroupChat работает. 256K контекст вмещает больше истории дебатов, чем 128K DeepSeek V3.2. Более низкая скорость вывода Mistral (~38 токен/с), узкое место в многоагентных дебатах.
Гибридный стек: query engines LlamaIndex как инструменты внутри рабочего процесса LangGraph или AutoGen. Строгий режим function-calling Mistral сочетается с чёткими определениями инструментов LlamaIndex.
Где эта модель в связке с research-агентным стеком даёт отчёты, которые ваша команда действительно использует.
Выбирайте фреймворк по форме рабочего процесса.
Продакшн-оркестрация. 256K контекст плюс checkpoints LangGraph обрабатывают очень длинные рабочие процессы.
Последовательные команды с включённым параллельным вызовом инструментов.
GroupChat. Более низкая скорость вывода Mistral, узкое место в дебато-интенсивных паттернах.
Компиляция промптов. Хорошо сочетается со строгим форматированием Mistral.
Type-safe агенты. Mistral Guidance (грамматика lark) и Pydantic AI оба нацелены на структурированный вывод.
Retrieval-слой. Гибридный стек с оркестрацией LangGraph.
First-party агентный CLI Mistral с расширением Zed.
Три профиля покупателей, для которых эта модель, правильный выбор.
Задача: многоязычный review контрактов, vision-based intake документов (сканированные PDF, приложения), агентный discovery. Результат: Apache 2.0 плюс европейское происхождение Mistral упрощают позицию по GDPR. Зрение и текст в одной модели убирают слой склейки пайплайна.
Задача: составление отчётов с условием на изображение, vision-text Q&A по деидентифицированным DICOM-экспортам. Результат: first-class мультимодальность в open-weight модели с полностью совместимым с HIPAA self-host. 256K контекст обрабатывает длинные продольные случаи.
Задача: intake документов (vision OCR плюс рассуждения), многоязычный KYC, агентные рабочие процессы с нативным вызовом инструментов. Результат: распространение по Apache 2.0 позволяет встраивать модель в клиентские продукты без трений с per-seat лицензированием.
Где эта модель выигрывает, где проигрывает.
DeepSeek V3.2 выигрывает на самых сложных рассуждениях и доказательстве теорем. Mistral Large 3 выигрывает по мультимодальности (зрение нативное), простоте Apache 2.0 (DeepSeek, MIT, сопоставимо, но у Mistral более сильное знакомство в западных корпорациях) и контексту 256K против 128K.
Qwen3 235B выигрывает по минимальному железу (143 ГБ против 370 ГБ на Q4) и чистым бенчмаркам рассуждений. Mistral Large 3 выигрывает по мультимодальному зрению и прозрачности обучения (3 000 H200, полностью раскрыто), что полезно для осторожных покупателей.
Разные классы. Llama 3.3 70B разворачивается на одной машине на Mac за $7K. Mistral Large 3 требует узла 8x H200. Выбирайте Llama для self-host SMB, Mistral Large 3, когда нужны frontier-качество, зрение и Apache 2.0 вместе.
День 4: vLLM обслуживает Mistral Large 3 с парсером инструментов mistral и тремя обязательными флагами mistral.
vLLM запускает Mistral Large 3 с --tokenizer_mode mistral, --config_format mistral, --load_format mistral, --enable-auto-tool-choice, --tool-call-parser mistral, --max-model-len 32768 (повысить после валидации запаса памяти), --tensor-parallel-size 8. mistral_common >= 1.8.6 обязателен, иначе вызов инструментов ломается. NVFP4 для инференса, FP8 для дообучения.
EAGLE speculative decoding подключён с companion-моделью mistralai/Mistral-Large-3-675B-Instruct-2512-Eagle и num_speculative_tokens: 3. Пропускная способность улучшается без изменения качества вывода.
Агенты редактора подключены. Aider через --model mistralai/mistral-large-3, Cline как провайдер Mistral, Continue.dev с provider: mistral, Roo Code OpenAI-compatible. Включён строгий режим function calling согласно релизу Mistral 1.10.0.
Open WebUI и AnythingLLM запущены. Загрузка документов поддерживает мультимодальность изображений. Рабочие пространства изолируют чувствительные наборы документов.
LangGraph рабочие процессы. Три рабочих процесса поставлены: deep-research, code-review, customer-intake. Валидация схем по грамматике lark Mistral Guidance подключена в узлы структурированного вывода.
Mistral Code (вендорный пакет с поддержкой) или OpenHands для автономии репозитория. Для покупателей с интенсивным кодированием добавляем Devstral 2 рядом с Mistral Large 3, потому что Devstral 2 владеет кодированием (72.2 процента SWE-bench Verified).
Dashboard метрик Prometheus (vllm:num_requests_waiting, gpu_cache_usage_perc, time_to_first_token_seconds), пакет доказательств, runbook и инвентарь агентов доставлены.
Отзывы от людей, которые были в комнате, когда принимались решения.
I used to spend every Sunday reconciling contractor invoices. Now they match automatically. I got my weekends back.
We didn't rush. We just stopped wasting time on things that didn't matter. The risk was managed, not ignored.
The Firebase-to-Supabase migration sounded terrifying. They moved 200k users without a single support ticket. We were live in 19 days.
Фиксированная цена.
Аудит железа. Подтверждение узла 8x H100/H200/B200. Выбор NVFP4 или FP8 в зависимости от потребности в длине контекста. Запуск реальных промптов, включая задачи зрения при необходимости.
Запуск через vLLM с форматами tokenizer/config/load Mistral. Включение tool-call parser ('mistral'). Системный промпт с описаниями инструментов. Temperature 0.1 для продакшна.
RAG с vision-capable retrieval при необходимости. SSO, аудит, RBAC. Настройка max-model-len до 32K или 64K, если полный 256K не нужен (значительная экономия памяти KV-cache).
Пен-тест пройден. Apache 2.0 NOTICE оформлен. Продакшн-переход. Подтверждена EU-резидентность при необходимости для GDPR.
Apache 2.0, включая базовую и инструктивную версии. Без ограничений на использование, без условий о производных работах, без лимитов по выручке. Самая свободная флагманская модель с открытыми весами в 2026 году. Pineido рекомендует Mistral Large 3 именно тогда, когда покупатель требует Apache 2.0 или MIT (некоторые осторожные покупатели отвергают Acceptable Use Policy у Llama или не принимают MIT с китайской юрисдикцией у DeepSeek).
8x A100 80 ГБ или 8x H100 с весами NVFP4, практический минимум, $150-200K капекса. Ниже этого придётся запускать Q4 GGUF на нескольких потребительских GPU (4x RTX 5090 или аналог) со значительным компромиссом производительности. Для компании до 30 пользователей, которой не нужен полный 675B, обычно правильный ответ, младшие братья (Mistral 3 14B, 8B, 3B) на одном GPU.
Да. Vision encoder на 2.5 миллиарда параметров интегрирован, а не прикручен снаружи. Обрабатывает сканированные PDF, диаграммы, схемы, фотографии и продольные мультиизображения. Для лучших результатов сохраняйте соотношение сторон близким к 1:1 и запускайте vision encoder на FP16 независимо от квантизации LLM. Это одна из первых открытых frontier-моделей с зрением и многоязычностью в одном.
Оба, MoE класса 670B на корпоративном железе. Выбирайте Mistral Large 3, если нужны зрение, более длинный контекст (256K против 128K) или Apache 2.0 плюс западное происхождение обучения. Выбирайте DeepSeek V3.2, если нужна максимальная производительность рассуждений и доказательства теорем, и можно обойтись без зрения.
Devstral 2 для деплоев только под кодирование. Mistral Large 3 для деплоев «одна модель на все задачи». Devstral 2 показывает 72.2 процента SWE-bench Verified, работает на 4 H100 и Cline официально подтвердил надёжность вызова инструментов. Mistral Large 3, generalist (675B total / 41B active) для команд, которым нужны кодирование, исследования и Q&A по документам под одной лицензией. Pineido часто запускает обе: Mistral Large 3 как endpoint по умолчанию, Devstral 2 добавляется на канал кодирования при достаточном объёме.
Три обязательных флага Mistral: --tokenizer_mode mistral, --config_format mistral, --load_format mistral. Плюс --enable-auto-tool-choice и --tool-call-parser mistral для function calling. Без --tool-call-parser mistral vLLM использует парсер по умолчанию и вызовы инструментов возвращают пустоту. Проверьте, что mistral_common >= 1.8.6 установлен, иначе токенизация откатывается к HuggingFace по умолчанию и ломается. Зафиксируйте vLLM >= 0.17.0.
675B total, 41B active на токен (MoE), 2.5B vision encoder Параметры
Фиксированная цена.
В День 1 вы видите точную модель, точное железо, точный агентный стек, точную математику стоимости и точную позицию по соответствию требованиям.
АвторKostadin StambolievОснователь и имагинатор
Pineido, из города Strumica, North Macedonia, — софтверная компания, которая делает сайты, интернет-магазины, веб- и мобильные приложения, автоматизацию бизнес-процессов и ИИ для компаний в стране и за рубежом. Работа сдаётся 30-дневными спринтами по фиксированной цене, а код принадлежит клиенту.
Опубликовано Обновлено