DeepSeek-V3.2-Exp, последняя модель китайского чат-бота, представляет DSA, эффективность, API и развертывание

  • В версии 3.2-Exp реализован DSA для ускорения длинного контекста с минимальной потерей качества.
  • Теперь действует паритет производительности с V3.1-Terminus и ценообразование API -50%.
  • Открытый исходный код: веса в Hugging Face, ядра в TileLang, DeepGEMM и FlashMLA.
  • Практическое руководство: конечные точки, потоковая передача, вызов функций и локальное выполнение.

DeepSeek-V3.2-Exp

Вышла экспериментальная версия DeepSeek-V3.2-Exp , ориентированная на повышение эффективности в больших масштабах и долгосрочную перспективу, с явным учетом интересов сообщества: открытый исходный код, опубликованные ядра и более дешевый API.

Помимо шумихи, ключевым моментом является то, что эта модель, основанная на V3.1-Terminus , представляет собой механизм тонкозернистого разреженного внимания под названием DeepSeek Sparse Attention (DSA), который ускоряет обучение и вывод результатов, сохраняя при этом качество. Компания уже внедрила его в свое приложение, веб-сайт и API , а также снизила цены на использование более чем на 50% , что является агрессивным шагом, который, откровенно говоря, оказывает давление на конкурентов.

Ключевые новые возможности DeepSeek-V3.2-Exp

Главная инновация — это алгоритм DSA (Discovery, Story, Array), который позволяет избирательно выделять релевантные части контекста, не сканируя всю последовательность целиком. По словам компании, влияние на качество минимально, а повышение эффективности при работе с длинным контекстом значительно.

Что касается доступности, модель работает в приложениях, веб-браузерах и API с первого дня, сопровождаясь значительным снижением цены (более 50%) для облегчения тестирования и внедрения. Для тех, кто хочет сравнить, DeepSeek поддерживает временную конечную точку для версии V3.1-Terminus до 15 октября 2025 года, 15:59 UTC.

Производительность и тесты DeepSeek-V3.2-Exp: паритет с V3.1-Terminus

DeepSeek стремился к сопоставимым результатам с версией V3.1-Terminus по широкому спектру тестов, в частности, для того, чтобы изолировать эффект от внедрения рассеянного внимания. На практике это приводит к сопоставимым показателям в логическом мышлении, программировании и использовании инструментов, имитирующих работу агентов.

Различные источники указывают на цифры, которые помогают стабилизировать ожидания: V3.2-Exp описывается как модель с 685 миллиардами параметров и схожей или незначительно отличающейся производительностью в зависимости от предметной области. В задачах без использования инструментов приводятся такие оценки, как 85.0 в MMLU-Pro и 89.3 в AIME 2025 ; в сценариях с использованием агентов — 40.1 в BrowseComp и 67.8 в SWE Verified . Эти результаты соответствуют официальной версии о приоритете эффективности над значительным повышением точности.

Можно даже провести тонкие сравнения: в задачах по программированию отмечается рост до 2121 балла на Codeforces по сравнению с 2046, в то время как в тестах, более ориентированных на гуманитарные науки, наблюдаются незначительные спады (например, 19.8 против 21.7 на Humanity's Last Exam). В целом, диаграмма указывает на баланс : периодические улучшения и незначительные уступки, при этом ключевым фактором является скорость.

DSA: Детально выраженное рассеянное внимание

Традиционный механизм внимания становится затратным в широких контекстах; алгоритм DSA минимизирует работу там, где она малоэффективна. Применяя разреженность с точным управлением, модель концентрирует вычисления там, где она действительно находит сигнал, улучшая задержку и снижая потребление ресурсов, не искажая при этом выходные данные.

В реальных условиях это наиболее заметно в задачах, требующих интенсивного использования контекста : составление кратких резюме документов, анализ логов, агенты, участвующие в длительных диалогах, или конвейеры, объединяющие поиск и генерацию. В таких ситуациях эффективность — это не роскошь, а разница между возможностью масштабируемого использования и неприменимостью.

Доступность, цены и сравнения DeepSeek-V3.2-Exp

Компания DeepSeek объявила о доступности версии 3.2-Exp для приложений, веб-версии и API . Кроме того, цена API снижена более чем на 50% и вступает в силу немедленно. Этот шаг направлен на расширение использования и стимулирование тестирования производительности.

Для тех, кто хочет сравнить с предыдущей моделью, V3.1-Terminus остается временной конечной точкой до 15.10.2025 15:59 (UTC). Компания также поощряет обратную связь через публичную форму, укрепляя динамику постоянного совершенствования вместе с сообществом.

Статус открытого исходного кода: веса, технический отчет и ядра

Компания DeepSeek опубликовала модель на сайте Hugging Face вместе с техническим отчетом , документирующим изменения и результаты. Это свидетельствует о явной приверженности принципам прозрачности и продвижению долгосрочных прикладных исследований с меньшими затратами.

На уровне ядра существуют два пути: TileLang для более удобного чтения и прототипирования , и CUDA для максимальной производительности. Ядра с логистическим индексом (включая страничные варианты) находятся в DeepGEMM , а ядра с разреженным вниманием опубликованы в FlashMLA . Такое разделение облегчает исследовательским и производственным сообществам поиск своей ниши.

Локальное выполнение DeepSeek-V3.2-Exp и демонстраций вывода

DeepSeek предлагает репозиторий с примерами выполнения инференции и обновленной демонстрационной версией, чтобы быстро начать работу и изучить архитектуру. Первый шаг — преобразовать веса Hugging Face в формат, ожидаемый демонстрационной версией, определив количество экспертов и параллелизм модели.

Примеры команд для интерактивного преобразования и генерации (установите EXPERTS=256 и MP равным количеству графических процессоров): их можно использовать как есть в подготовленной среде.

cd вывод экспорт ЭКСПЕРТЫ=256 python convert.py --hf-ckpt-path ${HF_CKPT_PATH} --save-path ${SAVE_PATH} --n-experts ${EXPERTS} --model-parallel ${MP} экспорт КОНФИГУРАЦИЯ=config_671B_v3.2.json torchrun --nproc-per-node ${MP} generate.py --ckpt-path ${SAVE_PATH} --config ${CONFIG} --interactive

Для тех, кто предпочитает SGLang , есть готовые образы и команда загрузки. Совместимость включает графические процессоры NVIDIA (H200), AMD (MI350) и некоторые NPU со специальными тегами.

# H200 docker pull lmsysorg/sglang:dsv32 # MI350 docker pull lmsysorg/sglang:dsv32-rocm # NPU docker pull lmsysorg/sglang:dsv32-a2 docker pull lmsysorg/sglang:dsv32-a3 python -m sglang.launch_server --model deepseek-ai/DeepSeek-V3.2-Exp --tp 8 --dp 8 --page-size 64

Если вы предпочитаете vLLM , его поддержка доступна с первого дня. Рекомендуется ознакомиться с официальными рецептами для получения актуальных параметров и оптимизаций оборудования .

API: конечные точки, совместимость и истечение срока действия

API DeepSeek соответствует стандартным соглашениям и совместим с популярными SDK. По умолчанию базовый URL-адрес https://api.deepseek.com указывает на версию V3.2-Exp, что упрощает первоначальную интеграцию и доступ к сниженной скорости.

Для проведения бенчмаркинга существует временная конечная точка для V3.1-Terminus: https://api.deepseek.com/v3.1_terminus_expires_on_20251015 . При планировании бенчмарков учитывайте дату и время истечения срока действия (15 октября 2025 г., 15:59 UTC).

Кроме того, обеспечена совместимость с экосистемой Anthropic . Для взаимодействий в стиле Claude можно использовать базовый API https://api.deepseek.com/anthropic , а для сравнения с предыдущей моделью — вариант, связанный с временной конечной точкой.

Аутентификация и управление ключами

Аутентификация запросов осуществляется с использованием параметра Bearer в заголовке Authorization. Сгенерируйте свой ключ на панели управления DeepSeek и надежно сохраните его, например, в переменных среды или менеджерах секретов , таких как AWS Secrets Manager.

На панели управления отображаются данные об использовании и выставлении счетов для мониторинга потребления токенов . Несмотря на снижение цен, рекомендуется ввести ограничения на количество запросов и периодическую ротацию ключей на компьютерах, а также незамедлительно аннулировать любые скомпрометированные ключи .

Завершения чата, шаблоны и базовые запросы

Центральным элементом является /chat/completions , который обрабатывает многоходовые диалоги и поддерживает контекст между вызовами, что идеально подходит для преимуществ V3.2-Exp, связанных с сохранением долговременного контекста. Существуют два типичных режима работы: deepseek-chat и deepseek-reasoner.

Простой текст запроса может выглядеть примерно так, используя JSON с экранированными кавычками (здесь для наглядности обозначен как ""): он включает системный запрос и запрос пользователя.

{ "model": "deepseek-chat", "messages": [ { "role": "system", "content": "Вы технический эксперт." }, { "role": "user", "content": "Объясните рассеянное внимание." } ], "stream": false }

Если вам нужны ответы в реальном времени, включите параметр `stream=true` . Заголовки должны содержать `Content-Type: application/json` и токен в `Authorization: Bearer ${DEEPSEEK_API_KEY}`. Если вы работаете с явным обоснованием, вы можете управлять поведением с помощью флага `reasoning.enabled`.

Структура ответа и потоковая передача SSE

В ответах, не содержащих потоковую передачу данных, присутствуют такие поля, как id , object, created, model, choices и usage. В поле choices вы найдете сгенерированный контент (роль: "assistant"), а в поле usage — подробную информацию о prompt_tokens , completion_tokens и total_tokens.

В потоковом режиме API отправляет события, отправляемые сервером (Server-Sent Events) . Каждый фрагмент поступает в виде события данных с дельта-значением, которое необходимо накапливать. Это идеальный вариант для интерактивных интерфейсов или терминалов с инкрементальным выводом.

Вызов функции и вывод в строгом JSON

Вы можете определить инструменты , чтобы модель сама решала, когда вызывать функцию, например, для получения данных или выполнения действий. Это хорошо сочетается с рабочими процессами агентов и интеграцией с бэкэндом.

Если вам нужен структурированный вывод, принудительно используйте режим JSON с помощью `response_format`. Это полезно для извлечения данных или автоматической проверки в конвейерах обработки данных.

Примеры Python с SDK в стиле OpenAI

Освоение Python очень простое. Настройте базовый API в соответствии с API DeepSeek, определите ключ и отправляйте запросы; в зависимости от задачи можно переключаться между стандартным режимом и потоковой обработкой.

import openai openai.api_base = "https://api.deepseek.com" openai.api_key = "your_api_key_here" response = openai.ChatCompletion.create( model="deepseek-chat", messages=[ {"role": "system", "content": "Вы помощник по написанию кода."}, {"role": "user", "content": "Напишите функцию Python для вычисления чисел Фибоначчи."} ], stream=False ) print(response.choices[0].message.content) # Потоковый stream = openai.ChatCompletion.create(model="deepseek-chat", messages=[...], stream=True) for chunk in stream: if chunk.choices[0].delta.content is not None: print(chunk.choices[0].delta.content, end="") # Вызов функции (определение инструмента) tools = [ { "type": "function", "function": { "name": "get_weather", "description": "Получить текущую погоду", "parameters": { "type": "object", "properties": { "location": {"type": "string"} }, "required": [ "location" ] } } } ]

Для вывода в строгом формате JSON установите response_format в значение {"type": "json_object"}. А если у вас будут длинные диалоги, не забудьте ограничить контекст , чтобы оставаться в рамках заданных параметров и максимально повысить эффективность.

Интеграция с Apidog

Apidog ускоряет прототипирование вызовов : он импортирует спецификации, сохраняет переменные окружения (например, ключ), формирует POST-запросы и тестирует на лету. Его симулятор ответов упрощает тестирование граничных случаев без использования токенов.

Он также генерирует фрагменты кода на разных языках и предлагает отображение временной шкалы для отладки аутентификации или параметров. Поскольку версия V3.2-Exp обрабатывает большие контексты, Apidog идеально подходит для экспериментов с длинными запросами и тестирования производительности.

Хорошие практики, чтобы извлечь из этого максимальную пользу

Определите четкие и лаконичные системные подсказки , описывающие поведение системы. Для решения сложных задач может быть полезен режим рассуждения, сочетающий его с методами структурирования мышления, подходящими для вашей ситуации.

Разумно управляйте контекстом : хотя V3.2-Exp допускает длинный контекст (цитируются случаи до 128 тыс.), избыточная история может негативно сказаться на эффективности. Внедрите интеллектуальное усечение, кэширование для часто запрашиваемых данных и пакетную обработку там, где это необходимо.

В целях безопасности очищайте входные данные, чтобы предотвратить мгновенные инъекции, и регистрируйте взаимодействия для аудита . Настройте параметры temperature и top_p в соответствии с вашей целью: низкие значения для детерминизма, высокие значения для креативности.

Проводите A/B-тестирование между deepseek-chat и deepseek-reasoner , чтобы выбрать оптимальный режим. И не забывайте об ограничении количества запросов, чтобы избежать неожиданностей с оплатой.

Сравнение с V3.1-Terminus

Внедрение технологии DSA обеспечивает улучшение задержки , которое в некоторых сценариях приближается к трехкратному увеличению скорости без ущерба для общего качества. Это эволюция, ориентированная на соотношение энергопотребления и эффективности, а не на рекордную точность.

Небольшое увеличение объема кодирования и незначительное уменьшение объема гуманитарных дисциплин отражают тонкую настройку, присущую модели, которая по своей сути является экспериментальной . Конечная точка версии 3.1 позволяет проводить прямые сравнения, демонстрирующие прирост DSA за длительный период.

Расширенное локальное развертывание

Для развертывания в автономном режиме или с соблюдением конфиденциальности рекомендуется загрузить веса из Hugging Face и использовать официальные скрипты преобразования. Настройте количество экспертов (например, 256) и отрегулируйте параллелизм модели в соответствии с вашими графическими процессорами.

Демонстрационная версия позволяет проводить интерактивное тестирование, а ядра TileLang или CUDA помогут вам максимизировать производительность в соответствии с приоритетами: скорость прототипирования или максимальная пропускная способность в производственной среде.

Открытые ядра и производительность

TileLang уделяет первостепенное внимание читаемости и дизайну, что позволяет быстро внедрять новые идеи. Он идеально подходит для изучения вариантов рассеянного внимания или оптимизации памяти.

Чтобы максимально эффективно использовать каждую миллисекунду, в дело вступают ядра CUDA: логистические индексы (с постраничными версиями) находятся в DeepGEMM , а индексы разреженного внимания — в FlashMLA . Такая сегментация позволяет каждой команде выбрать оптимальный стек без повторной работы.

Лицензия DeepSeek-V3.2-Exp, назначение и контакты

Репозиторий и весовые коэффициенты моделей опубликованы под лицензией MIT. Это открывает возможности для гибкого коммерческого использования, способствуя внедрению и инновациям в экосистеме.

Для упоминания V3.2-Exp в публикациях DeepSeek предоставляет запись в разделе @misc с названием "DeepSeek-V3.2-Exp: Boosting Long-Context Efficiency with DeepSeek Sparse Attention" и указанием авторства "DeepSeek-AI" (2025 год). По вопросам или проблемам обращайтесь по адресу [email protected ]

Официальные ресурсы и полезные ссылки о DeepSeek-V3.2-Exp

Если вы хотите скачать модель, вы можете найти её на сайте Hugging Face . Технический отчёт, а также подробности реализации и результаты оценок доступны на GitHub.

Для сравнительных тестов версий V3.2-Exp и V3.1-Terminus, пожалуйста, обратитесь к официальному руководству . А если вы хотите оставить свои предложения, воспользуйтесь общедоступным каналом обратной связи по адресу https://feedback.deepseek.com/dsa.

В версии V3.2-Exp DeepSeek ставит во главу угла простую идею: эффективность без ущерба для качества . DSA определяет направление развития моделей, поддерживающих большие контексты по разумной цене, упрощенный API предоставляет эти возможности большему числу команд, а открытый стек (веса, ядра и документация) упрощает для сообщества исследование, сравнение и беспрепятственное создание реальных продуктов.


Добавить в качестве предпочтительного источника в Google