Обновлено:
Локальный запуск Qwen4
Qwen4-27B — уровень Qwen4 для локального запуска, но веса ещё не вышли. Настройте окружение сейчас на Qwen3.8-27B; когда выйдет Qwen4-27B, поменяется только имя модели.
Выберите среду
- Ollama. Одна команда, работает в Windows, macOS и Linux. Лучший первый выбор.
- LM Studio. Настольное приложение с каталогом моделей и окном чата; терминал не нужен.
- llama.cpp. Максимум контроля над квантизацией, длиной контекста и выгрузкой на GPU.
- vLLM или SGLang. Для OpenAI-совместимого API на многих пользователей на видеокартах NVIDIA; нужны полные веса или FP8.
Шаги
- Проверьте память в калькуляторе VRAM и выберите квантизацию.
- Установите и обновите среду, чтобы она поддерживала новейшую архитектуру Qwen.
- Прямо сейчас запустите Qwen3.8-27B одной из команд ниже и убедитесь, что всё работает.
- Когда выйдет Qwen4-27B, замените имя модели на официальное со страницы Qwen на Hugging Face.
Калькулятор VRAM · Загрузка GGUF
Команды, которые работают сегодня (Qwen3.8-27B)
# Ollama
ollama run qwen3.8:27b
# llama.cpp
llama-server -hf unsloth/Qwen3.8-27B-GGUF:Q4_K_M -c 32768
# vLLM
pip install vllm
vllm serve Qwen/Qwen3.8-27B
# SGLang
pip install sglang
python3 -m sglang.launch_server --model-path Qwen/Qwen3.8-27B --port 30000Официальное имя репозитория Qwen4-27B ещё не опубликовано. Не угадывайте: используйте имя со страницы Qwen на Hugging Face, когда оно появится.
Источник: Карточка Qwen3.8-27B (команды vLLM и SGLang)
Источник: Библиотека Ollama: qwen3.8
На Mac
Mac на Apple Silicon делят память между CPU и GPU, но macOS по умолчанию отдаёт GPU только часть. Для модели 27B в 4 битах с контекстом 32K (около 20 ГБ) реалистичный минимум — 32 ГБ памяти, комфортно — от 48 ГБ. В Ollama есть и MLX-версия Qwen3.8 (qwen3.8:27b-mlx).
Источник: Библиотека Ollama: qwen3.8
Ещё о Qwen4
Статус и дата выхода Qwen4 · Qwen4-27B · Калькулятор VRAM · Загрузка GGUF · Попробовать онлайн · Qwen4-27B vs Qwen3.8-27B
Частые вопросы
Можно ли уже запустить Qwen4 локально?
Саму Qwen4 нет: на 11 октября 2026 года веса не опубликованы. Qwen3.8-27B можно запустить теми же инструментами уже сегодня.
Как проще всего запустить Qwen4-27B?
Через Ollama. Когда Qwen4 появится в её библиотеке, хватит одной команды, как сейчас с qwen3.8:27b.
Нужна ли видеокарта NVIDIA?
Нет. Ollama, LM Studio и llama.cpp работают и на Mac с Apple Silicon, и на видеокартах AMD. vLLM и SGLang рассчитаны в основном на серверы NVIDIA.
Независимое руководство, не связано с Alibaba и командой Qwen. Статус проверен 11 октября 2026 года. Веса Qwen4 ещё не опубликованы; мы обновим страницу, когда они выйдут.