Обновлено: 11 октября 2026 г.

Qwen4 GGUF: где скачать и какой файл выбрать

Официального GGUF для Qwen4 ещё нет, потому что веса не опубликованы. Когда выйдет Qwen4-27B, GGUF-версии для llama.cpp, Ollama и LM Studio обычно появляются в течение суток. Ниже — где искать и как выбирать.

Коротко: дождитесь официального выхода и скачайте Q4_K_M из организации Qwen или у известного автора квантизаций. Игнорируйте GGUF «Qwen4», появившиеся до того, как Alibaba опубликует веса.

Где появятся GGUF Qwen4

Qwen на Hugging Face. Проверяйте в первую очередь. Qwen иногда публикует собственные GGUF; базовой моделью должен быть репозиторий Qwen/.
Unsloth. Опубликовал GGUF Qwen3.8-27B (unsloth/Qwen3.8-27B-GGUF) — самую скачиваемую сборку этой модели.
Сообщество LM Studio. Опубликовало lmstudio-community/Qwen3.8-27B-GGUF, настроенный под LM Studio.
Библиотека Ollama. Qwen3.8 там есть как qwen3.8:27b (около 18 ГБ). После выхода стоит ждать запись qwen4.

Источник: Поиск на Hugging Face: qwen4 gguf

Источник: unsloth/Qwen3.8-27B-GGUF

Источник: lmstudio-community/Qwen3.8-27B-GGUF

Источник: Библиотека Ollama: qwen3.8

Какую квантизацию выбрать

Формат	Веса	Всего, контекст 8K	Всего, 32K	Всего, 128K
BF16	54 ГБ	56 ГБ	57 ГБ	64 ГБ
Q8_0	29 ГБ	30 ГБ	32 ГБ	38 ГБ
Q6_K	22 ГБ	24 ГБ	25 ГБ	32 ГБ
Q5_K_M	19 ГБ	21 ГБ	22 ГБ	29 ГБ
Q4_K_M	17 ГБ	18 ГБ	20 ГБ	26 ГБ
IQ4_XS	14 ГБ	16 ГБ	18 ГБ	24 ГБ
Q3_K_M	13 ГБ	15 ГБ	16 ГБ	23 ГБ

Оценки для модели 27B по схеме Qwen3.8-27B, включая KV-кэш и около 1 ГБ накладных расходов. Q4_K_M — обычный баланс размера и качества; если памяти хватает, берите Q5_K_M или Q6_K.

Посчитать для своей видеокарты и контекста

Как не нарваться на поддельные или битые файлы

Нет официальных весов — нет и настоящего GGUF Qwen4. Всё, что появилось до выхода, — переименование или дообучение другой модели.
Проверьте базовую модель в карточке. Она должна указывать на официальный репозиторий Qwen/.
Если нужна оригинальная модель, пропускайте сборки «uncensored», «abliterated» и слияния.
Если Qwen4 использует новую архитектуру Qwen3.8-Flash-Next, старые версии llama.cpp могут её не загрузить. Сначала обновите llama.cpp, Ollama или LM Studio.

Источник: Карточка Qwen3.8-Flash-Next (предпросмотр архитектуры Qwen4)

Запустите GGUF Qwen3.8-27B уже сегодня

Проверьте на нём свой компьютер сейчас. Когда появятся GGUF Qwen4-27B, просто смените имя репозитория.

# llama.cpp (скачивает с Hugging Face)
llama-server -hf unsloth/Qwen3.8-27B-GGUF:Q4_K_M -c 32768

# Ollama
ollama run qwen3.8:27b

Источник: unsloth/Qwen3.8-27B-GGUF

Источник: Библиотека Ollama: qwen3.8

Статус и дата выхода Qwen4 · Qwen4-27B · Калькулятор VRAM · Локальный запуск · Попробовать онлайн · Qwen4-27B vs Qwen3.8-27B

Частые вопросы

Есть ли GGUF для Qwen4?

Официального нет. На 11 октября 2026 года веса Qwen4 не опубликованы, поэтому настоящего GGUF Qwen4 пока не существует.

Какой GGUF Qwen4 скачивать?

Q4_K_M для большинства карт на 24 ГБ, Q5_K_M или Q6_K при 32 ГБ, Q8_0 при 48 ГБ. Проверьте длину контекста в калькуляторе VRAM.

Заработает ли GGUF Qwen4 в Ollama и LM Studio?

Когда их версия llama.cpp начнёт поддерживать архитектуру Qwen4. Обновите приложение перед загрузкой.

Независимое руководство, не связано с Alibaba и командой Qwen. Статус проверен 11 октября 2026 года. Веса Qwen4 ещё не опубликованы; мы обновим страницу, когда они выйдут.