Обновлено: 11 октября 2026 г.

Калькулятор VRAM для Qwen4

Выберите формат весов и длину контекста, чтобы увидеть, сколько видеопамяти нужно модели Qwen на 27B. Характеристики Qwen4-27B пока не опубликованы, поэтому по умолчанию используется схема Qwen3.8-27B; можно переключиться на чисто плотную модель и увидеть худший случай.

Коротко: 4-битной Qwen4-27B с контекстом 32K должно хватить около 20 ГБ, то есть видеокарты на 24 ГБ. На 16 ГБ пойдёт только 3 бита с коротким контекстом; полный BF16 требует карты на 80 ГБ.

Калькулятор

Веса
KV-кэш
Запас на среду
Итого (оценка)

Это лишь оценка. Веса считаются по среднему числу бит на вес для каждого формата llama.cpp, KV-кэш — по выбранной схеме внимания, запас на среду выполнения — фиксированные 1 ГБ. Реальный расход зависит от движка, размера батча и наличия изображений на входе.

Быстрая таблица для модели 27B

Формат	Веса	Всего, контекст 8K	Всего, 32K	Всего, 128K
BF16	54 ГБ	56 ГБ	57 ГБ	64 ГБ
Q8_0	29 ГБ	30 ГБ	32 ГБ	38 ГБ
Q6_K	22 ГБ	24 ГБ	25 ГБ	32 ГБ
Q5_K_M	19 ГБ	21 ГБ	22 ГБ	29 ГБ
Q4_K_M	17 ГБ	18 ГБ	20 ГБ	26 ГБ
IQ4_XS	14 ГБ	16 ГБ	18 ГБ	24 ГБ
Q3_K_M	13 ГБ	15 ГБ	16 ГБ	23 ГБ

Тот же расчёт, что в калькуляторе, схема Qwen3.8-27B, KV-кэш в F16.

Почему у Qwen3.8-27B маленький KV-кэш

Только 16 из 64 слоёв используют полное внимание (4 KV-головы размерности 256); остальные 48 — слои Gated DeltaNet с состоянием фиксированного размера. Поэтому каждый токен контекста стоит около 64 КБ в F16, а 32K контекста добавляют лишь около 2 ГБ. Плотной модели на 27B с KV-кэшем на каждом слое понадобилось бы примерно вчетверо больше.

Источник: Карточка Qwen3.8-27B (архитектура)

Проверка

В Ollama 4-битная qwen3.8:27b весит 18 ГБ. Калькулятор даёт около 16,5 ГБ для 27B параметров в Q4_K_M; в карточке указано 28B параметров с учётом визуального энкодера, что и объясняет разницу.

Источник: Библиотека Ollama: qwen3.8

Статус и дата выхода Qwen4 · Qwen4-27B · Загрузка GGUF · Локальный запуск · Попробовать онлайн · Qwen4-27B vs Qwen3.8-27B

Частые вопросы

Сколько VRAM нужно Qwen4-27B?

Характеристики не опубликованы. Если модель похожа на Qwen3.8-27B: около 20 ГБ в 4 битах с контекстом 32K, около 32 ГБ в 8 битах и около 54 ГБ только на веса BF16.

Запустится ли Qwen4-27B на 16 ГБ?

Впритык: 3-битной версии с контекстом 8K нужно около 15 ГБ. Качество немного пострадает.

Сильно ли влияет длина контекста?

По схеме Qwen3.8-27B — около 2 ГБ на каждые 32K токенов в F16. У чисто плотной модели 27B было бы примерно вчетверо больше.

Независимое руководство, не связано с Alibaba и командой Qwen. Статус проверен 11 октября 2026 года. Веса Qwen4 ещё не опубликованы; мы обновим страницу, когда они выйдут.