最后更新: 2026年10月11日

Qwen4 本地部署

Qwen4-27B 是 Qwen4 中面向本地部署的档位，但权重还没发布。现在先用 Qwen3.8-27B 把运行环境搭好，Qwen4-27B 发布后只需要换个模型名。

一句话： 最省事的是在 24 GB 显卡或 32 GB 以上的 Mac 上用 Ollama。4-bit 加 32K 上下文约需 20 GB。

选一个运行工具

Ollama. 一条命令，Windows、macOS、Linux 都能用，首选。
LM Studio. 桌面应用，自带模型浏览和聊天窗口，不用开终端。
llama.cpp. 对量化、上下文长度和 GPU 分层卸载控制最细。
vLLM 或 SGLang. 在 NVIDIA 显卡上对外提供兼容 OpenAI 的 API、服务多人使用；需要完整或 FP8 权重。

步骤

用显存计算器确认显存，选好量化版本。
安装并升级运行工具，确保支持最新的 Qwen 架构。
现在先用下面的命令跑 Qwen3.8-27B，确认一切正常。
Qwen4-27B 发布后，把模型名换成 Qwen 官方 Hugging Face 页面上的正式名称。

显存计算器 · GGUF 下载导航

现在就能用的命令（Qwen3.8-27B）

# Ollama
ollama run qwen3.8:27b

# llama.cpp
llama-server -hf unsloth/Qwen3.8-27B-GGUF:Q4_K_M -c 32768

# vLLM
pip install vllm
vllm serve Qwen/Qwen3.8-27B

# SGLang
pip install sglang
python3 -m sglang.launch_server --model-path Qwen/Qwen3.8-27B --port 30000

Qwen4-27B 的官方仓库名还没公布，别自己猜，出来后以 Qwen 官方 Hugging Face 页面上的名字为准。

来源: Qwen3.8-27B 模型卡（vLLM 和 SGLang 命令）

来源: Ollama 模型库：qwen3.8

在 Mac 上

Apple 芯片的 Mac 由 CPU 和 GPU 共用内存，但 macOS 默认只让 GPU 用其中一部分。4-bit 的 27B 模型配 32K 上下文约需 20 GB，所以 32 GB 内存是实际下限，48 GB 以上更宽裕。Ollama 上也有 Qwen3.8 的 MLX 版本（qwen3.8:27b-mlx）。

来源: Ollama 模型库：qwen3.8

Qwen4 发布状态 · Qwen4-27B · 显存计算器 · GGUF 下载导航 · 在线体验 · Qwen4-27B 和 Qwen3.8-27B 对比

常见问题

现在能本地部署 Qwen4 吗？

Qwen4 本身还不行：截至 2026 年 10 月 11 日没有发布权重。现在可以用同样的工具跑 Qwen3.8-27B。

部署 Qwen4-27B 最简单的方法是什么？

Ollama。等 Qwen4 进入它的模型库，就和现在的 qwen3.8:27b 一样一条命令。

一定要 NVIDIA 显卡吗？

不用。Ollama、LM Studio 和 llama.cpp 也支持 Apple 芯片的 Mac 和 AMD 显卡。vLLM 和 SGLang 主要用于 NVIDIA 服务器。

独立指南，与阿里巴巴和 Qwen 团队无关联。状态核对于 2026 年 10 月 11 日。Qwen4 权重尚未发布，发布后我们会更新本页。