
Вышла экспериментальная версия DeepSeek-V3.2-Exp , ориентированная на повышение эффективности в больших масштабах и долгосрочную перспективу, с явным учетом интересов сообщества: открытый исходный код, опубликованные ядра и более дешевый API.
Помимо шумихи, ключевым моментом является то, что эта модель, основанная на V3.1-Terminus , представляет собой механизм тонкозернистого разреженного внимания под названием DeepSeek Sparse Attention (DSA), который ускоряет обучение и вывод результатов, сохраняя при этом качество. Компания уже внедрила его в свое приложение, веб-сайт и API , а также снизила цены на использование более чем на 50% , что является агрессивным шагом, который, откровенно говоря, оказывает давление на конкурентов.
Ключевые новые возможности DeepSeek-V3.2-Exp
Главная инновация — это алгоритм DSA (Discovery, Story, Array), который позволяет избирательно выделять релевантные части контекста, не сканируя всю последовательность целиком. По словам компании, влияние на качество минимально, а повышение эффективности при работе с длинным контекстом значительно.
Что касается доступности, модель работает в приложениях, веб-браузерах и API с первого дня, сопровождаясь значительным снижением цены (более 50%) для облегчения тестирования и внедрения. Для тех, кто хочет сравнить, DeepSeek поддерживает временную конечную точку для версии V3.1-Terminus до 15 октября 2025 года, 15:59 UTC.
Производительность и тесты DeepSeek-V3.2-Exp: паритет с V3.1-Terminus
DeepSeek стремился к сопоставимым результатам с версией V3.1-Terminus по широкому спектру тестов, в частности, для того, чтобы изолировать эффект от внедрения рассеянного внимания. На практике это приводит к сопоставимым показателям в логическом мышлении, программировании и использовании инструментов, имитирующих работу агентов.
Различные источники указывают на цифры, которые помогают стабилизировать ожидания: V3.2-Exp описывается как модель с 685 миллиардами параметров и схожей или незначительно отличающейся производительностью в зависимости от предметной области. В задачах без использования инструментов приводятся такие оценки, как 85.0 в MMLU-Pro и 89.3 в AIME 2025 ; в сценариях с использованием агентов — 40.1 в BrowseComp и 67.8 в SWE Verified . Эти результаты соответствуют официальной версии о приоритете эффективности над значительным повышением точности.
Можно даже провести тонкие сравнения: в задачах по программированию отмечается рост до 2121 балла на Codeforces по сравнению с 2046, в то время как в тестах, более ориентированных на гуманитарные науки, наблюдаются незначительные спады (например, 19.8 против 21.7 на Humanity's Last Exam). В целом, диаграмма указывает на баланс : периодические улучшения и незначительные уступки, при этом ключевым фактором является скорость.
DSA: Детально выраженное рассеянное внимание
Традиционный механизм внимания становится затратным в широких контекстах; алгоритм DSA минимизирует работу там, где она малоэффективна. Применяя разреженность с точным управлением, модель концентрирует вычисления там, где она действительно находит сигнал, улучшая задержку и снижая потребление ресурсов, не искажая при этом выходные данные.
В реальных условиях это наиболее заметно в задачах, требующих интенсивного использования контекста : составление кратких резюме документов, анализ логов, агенты, участвующие в длительных диалогах, или конвейеры, объединяющие поиск и генерацию. В таких ситуациях эффективность — это не роскошь, а разница между возможностью масштабируемого использования и неприменимостью.
Доступность, цены и сравнения DeepSeek-V3.2-Exp
Компания DeepSeek объявила о доступности версии 3.2-Exp для приложений, веб-версии и API . Кроме того, цена API снижена более чем на 50% и вступает в силу немедленно. Этот шаг направлен на расширение использования и стимулирование тестирования производительности.
Для тех, кто хочет сравнить с предыдущей моделью, V3.1-Terminus остается временной конечной точкой до 15.10.2025 15:59 (UTC). Компания также поощряет обратную связь через публичную форму, укрепляя динамику постоянного совершенствования вместе с сообществом.
Статус открытого исходного кода: веса, технический отчет и ядра
Компания DeepSeek опубликовала модель на сайте Hugging Face вместе с техническим отчетом , документирующим изменения и результаты. Это свидетельствует о явной приверженности принципам прозрачности и продвижению долгосрочных прикладных исследований с меньшими затратами.
На уровне ядра существуют два пути: TileLang для более удобного чтения и прототипирования , и CUDA для максимальной производительности. Ядра с логистическим индексом (включая страничные варианты) находятся в DeepGEMM , а ядра с разреженным вниманием опубликованы в FlashMLA . Такое разделение облегчает исследовательским и производственным сообществам поиск своей ниши.
Локальное выполнение DeepSeek-V3.2-Exp и демонстраций вывода
DeepSeek предлагает репозиторий с примерами выполнения инференции и обновленной демонстрационной версией, чтобы быстро начать работу и изучить архитектуру. Первый шаг — преобразовать веса Hugging Face в формат, ожидаемый демонстрационной версией, определив количество экспертов и параллелизм модели.
Примеры команд для интерактивного преобразования и генерации (установите EXPERTS=256 и MP равным количеству графических процессоров): их можно использовать как есть в подготовленной среде.
cd вывод экспорт ЭКСПЕРТЫ=256 python convert.py --hf-ckpt-path ${HF_CKPT_PATH} --save-path ${SAVE_PATH} --n-experts ${EXPERTS} --model-parallel ${MP} экспорт КОНФИГУРАЦИЯ=config_671B_v3.2.json torchrun --nproc-per-node ${MP} generate.py --ckpt-path ${SAVE_PATH} --config ${CONFIG} --interactive
Для тех, кто предпочитает SGLang , есть готовые образы и команда загрузки. Совместимость включает графические процессоры NVIDIA (H200), AMD (MI350) и некоторые NPU со специальными тегами.
# H200 docker pull lmsysorg/sglang:dsv32 # MI350 docker pull lmsysorg/sglang:dsv32-rocm # NPU docker pull lmsysorg/sglang:dsv32-a2 docker pull lmsysorg/sglang:dsv32-a3 python -m sglang.launch_server --model deepseek-ai/DeepSeek-V3.2-Exp --tp 8 --dp 8 --page-size 64
Если вы предпочитаете vLLM , его поддержка доступна с первого дня. Рекомендуется ознакомиться с официальными рецептами для получения актуальных параметров и оптимизаций оборудования .
API: конечные точки, совместимость и истечение срока действия
API DeepSeek соответствует стандартным соглашениям и совместим с популярными SDK. По умолчанию базовый URL-адрес https://api.deepseek.com указывает на версию V3.2-Exp, что упрощает первоначальную интеграцию и доступ к сниженной скорости.
Для проведения бенчмаркинга существует временная конечная точка для V3.1-Terminus: https://api.deepseek.com/v3.1_terminus_expires_on_20251015 . При планировании бенчмарков учитывайте дату и время истечения срока действия (15 октября 2025 г., 15:59 UTC).
Кроме того, обеспечена совместимость с экосистемой Anthropic . Для взаимодействий в стиле Claude можно использовать базовый API https://api.deepseek.com/anthropic , а для сравнения с предыдущей моделью — вариант, связанный с временной конечной точкой.
Аутентификация и управление ключами
Аутентификация запросов осуществляется с использованием параметра Bearer в заголовке Authorization. Сгенерируйте свой ключ на панели управления DeepSeek и надежно сохраните его, например, в переменных среды или менеджерах секретов , таких как AWS Secrets Manager.
На панели управления отображаются данные об использовании и выставлении счетов для мониторинга потребления токенов . Несмотря на снижение цен, рекомендуется ввести ограничения на количество запросов и периодическую ротацию ключей на компьютерах, а также незамедлительно аннулировать любые скомпрометированные ключи .
Завершения чата, шаблоны и базовые запросы
Центральным элементом является /chat/completions , который обрабатывает многоходовые диалоги и поддерживает контекст между вызовами, что идеально подходит для преимуществ V3.2-Exp, связанных с сохранением долговременного контекста. Существуют два типичных режима работы: deepseek-chat и deepseek-reasoner.
Простой текст запроса может выглядеть примерно так, используя JSON с экранированными кавычками (здесь для наглядности обозначен как ""): он включает системный запрос и запрос пользователя.
{ "model": "deepseek-chat", "messages": [ { "role": "system", "content": "Вы технический эксперт." }, { "role": "user", "content": "Объясните рассеянное внимание." } ], "stream": false }
Если вам нужны ответы в реальном времени, включите параметр `stream=true` . Заголовки должны содержать `Content-Type: application/json` и токен в `Authorization: Bearer ${DEEPSEEK_API_KEY}`. Если вы работаете с явным обоснованием, вы можете управлять поведением с помощью флага `reasoning.enabled`.
Структура ответа и потоковая передача SSE
В ответах, не содержащих потоковую передачу данных, присутствуют такие поля, как id , object, created, model, choices и usage. В поле choices вы найдете сгенерированный контент (роль: "assistant"), а в поле usage — подробную информацию о prompt_tokens , completion_tokens и total_tokens.
В потоковом режиме API отправляет события, отправляемые сервером (Server-Sent Events) . Каждый фрагмент поступает в виде события данных с дельта-значением, которое необходимо накапливать. Это идеальный вариант для интерактивных интерфейсов или терминалов с инкрементальным выводом.
Вызов функции и вывод в строгом JSON
Вы можете определить инструменты , чтобы модель сама решала, когда вызывать функцию, например, для получения данных или выполнения действий. Это хорошо сочетается с рабочими процессами агентов и интеграцией с бэкэндом.
Если вам нужен структурированный вывод, принудительно используйте режим JSON с помощью `response_format`. Это полезно для извлечения данных или автоматической проверки в конвейерах обработки данных.
Примеры Python с SDK в стиле OpenAI
Освоение Python очень простое. Настройте базовый API в соответствии с API DeepSeek, определите ключ и отправляйте запросы; в зависимости от задачи можно переключаться между стандартным режимом и потоковой обработкой.
import openai openai.api_base = "https://api.deepseek.com" openai.api_key = "your_api_key_here" response = openai.ChatCompletion.create( model="deepseek-chat", messages=[ {"role": "system", "content": "Вы помощник по написанию кода."}, {"role": "user", "content": "Напишите функцию Python для вычисления чисел Фибоначчи."} ], stream=False ) print(response.choices[0].message.content) # Потоковый stream = openai.ChatCompletion.create(model="deepseek-chat", messages=[...], stream=True) for chunk in stream: if chunk.choices[0].delta.content is not None: print(chunk.choices[0].delta.content, end="") # Вызов функции (определение инструмента) tools = [ { "type": "function", "function": { "name": "get_weather", "description": "Получить текущую погоду", "parameters": { "type": "object", "properties": { "location": {"type": "string"} }, "required": [ "location" ] } } } ]
Для вывода в строгом формате JSON установите response_format в значение {"type": "json_object"}. А если у вас будут длинные диалоги, не забудьте ограничить контекст , чтобы оставаться в рамках заданных параметров и максимально повысить эффективность.
Интеграция с Apidog
Apidog ускоряет прототипирование вызовов : он импортирует спецификации, сохраняет переменные окружения (например, ключ), формирует POST-запросы и тестирует на лету. Его симулятор ответов упрощает тестирование граничных случаев без использования токенов.
Он также генерирует фрагменты кода на разных языках и предлагает отображение временной шкалы для отладки аутентификации или параметров. Поскольку версия V3.2-Exp обрабатывает большие контексты, Apidog идеально подходит для экспериментов с длинными запросами и тестирования производительности.
Хорошие практики, чтобы извлечь из этого максимальную пользу
Определите четкие и лаконичные системные подсказки , описывающие поведение системы. Для решения сложных задач может быть полезен режим рассуждения, сочетающий его с методами структурирования мышления, подходящими для вашей ситуации.
Разумно управляйте контекстом : хотя V3.2-Exp допускает длинный контекст (цитируются случаи до 128 тыс.), избыточная история может негативно сказаться на эффективности. Внедрите интеллектуальное усечение, кэширование для часто запрашиваемых данных и пакетную обработку там, где это необходимо.
В целях безопасности очищайте входные данные, чтобы предотвратить мгновенные инъекции, и регистрируйте взаимодействия для аудита . Настройте параметры temperature и top_p в соответствии с вашей целью: низкие значения для детерминизма, высокие значения для креативности.
Проводите A/B-тестирование между deepseek-chat и deepseek-reasoner , чтобы выбрать оптимальный режим. И не забывайте об ограничении количества запросов, чтобы избежать неожиданностей с оплатой.
Сравнение с V3.1-Terminus
Внедрение технологии DSA обеспечивает улучшение задержки , которое в некоторых сценариях приближается к трехкратному увеличению скорости без ущерба для общего качества. Это эволюция, ориентированная на соотношение энергопотребления и эффективности, а не на рекордную точность.
Небольшое увеличение объема кодирования и незначительное уменьшение объема гуманитарных дисциплин отражают тонкую настройку, присущую модели, которая по своей сути является экспериментальной . Конечная точка версии 3.1 позволяет проводить прямые сравнения, демонстрирующие прирост DSA за длительный период.
Расширенное локальное развертывание
Для развертывания в автономном режиме или с соблюдением конфиденциальности рекомендуется загрузить веса из Hugging Face и использовать официальные скрипты преобразования. Настройте количество экспертов (например, 256) и отрегулируйте параллелизм модели в соответствии с вашими графическими процессорами.
Демонстрационная версия позволяет проводить интерактивное тестирование, а ядра TileLang или CUDA помогут вам максимизировать производительность в соответствии с приоритетами: скорость прототипирования или максимальная пропускная способность в производственной среде.
Открытые ядра и производительность
TileLang уделяет первостепенное внимание читаемости и дизайну, что позволяет быстро внедрять новые идеи. Он идеально подходит для изучения вариантов рассеянного внимания или оптимизации памяти.
Чтобы максимально эффективно использовать каждую миллисекунду, в дело вступают ядра CUDA: логистические индексы (с постраничными версиями) находятся в DeepGEMM , а индексы разреженного внимания — в FlashMLA . Такая сегментация позволяет каждой команде выбрать оптимальный стек без повторной работы.
Лицензия DeepSeek-V3.2-Exp, назначение и контакты
Репозиторий и весовые коэффициенты моделей опубликованы под лицензией MIT. Это открывает возможности для гибкого коммерческого использования, способствуя внедрению и инновациям в экосистеме.
Для упоминания V3.2-Exp в публикациях DeepSeek предоставляет запись в разделе @misc с названием "DeepSeek-V3.2-Exp: Boosting Long-Context Efficiency with DeepSeek Sparse Attention" и указанием авторства "DeepSeek-AI" (2025 год). По вопросам или проблемам обращайтесь по адресу [email protected ]
Официальные ресурсы и полезные ссылки о DeepSeek-V3.2-Exp
Если вы хотите скачать модель, вы можете найти её на сайте Hugging Face . Технический отчёт, а также подробности реализации и результаты оценок доступны на GitHub.
Для сравнительных тестов версий V3.2-Exp и V3.1-Terminus, пожалуйста, обратитесь к официальному руководству . А если вы хотите оставить свои предложения, воспользуйтесь общедоступным каналом обратной связи по адресу https://feedback.deepseek.com/dsa.
В версии V3.2-Exp DeepSeek ставит во главу угла простую идею: эффективность без ущерба для качества . DSA определяет направление развития моделей, поддерживающих большие контексты по разумной цене, упрощенный API предоставляет эти возможности большему числу команд, а открытый стек (веса, ядра и документация) упрощает для сообщества исследование, сравнение и беспрепятственное создание реальных продуктов.
Индекс
- 1 Ключевые новые возможности DeepSeek-V3.2-Exp
- 2 Производительность и тесты DeepSeek-V3.2-Exp: паритет с V3.1-Terminus
- 3 DSA: Детально выраженное рассеянное внимание
- 4 Доступность, цены и сравнения DeepSeek-V3.2-Exp
- 5 Статус открытого исходного кода: веса, технический отчет и ядра
- 6 Локальное выполнение DeepSeek-V3.2-Exp и демонстраций вывода
- 7 API: конечные точки, совместимость и истечение срока действия
- 8 Аутентификация и управление ключами
- 9 Завершения чата, шаблоны и базовые запросы
- 10 Структура ответа и потоковая передача SSE
- 11 Вызов функции и вывод в строгом JSON
- 12 Примеры Python с SDK в стиле OpenAI
- 13 Интеграция с Apidog
- 14 Хорошие практики, чтобы извлечь из этого максимальную пользу
- 15 Сравнение с V3.1-Terminus
- 16 Расширенное локальное развертывание
- 17 Открытые ядра и производительность
- 18 Лицензия DeepSeek-V3.2-Exp, назначение и контакты
- 19 Официальные ресурсы и полезные ссылки о DeepSeek-V3.2-Exp