非官方指南,与 Meta 无关联。

最后更新:

Qwen4 显存计算器

选好权重格式和上下文长度,就能看到 27B 的 Qwen 模型需要多少显存。Qwen4-27B 的规格还没公布,所以默认按 Qwen3.8-27B 的结构计算,也可以切换到纯稠密结构看最坏情况。

一句话: 4-bit 的 Qwen4-27B 配 32K 上下文大约需要 20 GB,24 GB 显卡就够。16 GB 只能用 3-bit 加短上下文;完整 BF16 需要 80 GB 的卡。

计算器

权重
KV 缓存
运行时预留
预计总显存

仅为估算。权重按各 llama.cpp 格式的平均每参数比特数计算;KV 缓存按你选的注意力结构计算;运行时统一预留 1 GB。实际占用随推理引擎、批大小和是否输入图片而变化。

27B 模型速查表

格式权重总计(8K 上下文)总计(32K)总计(128K)
BF1654 GB56 GB57 GB64 GB
Q8_029 GB30 GB32 GB38 GB
Q6_K22 GB24 GB25 GB32 GB
Q5_K_M19 GB21 GB22 GB29 GB
Q4_K_M17 GB18 GB20 GB26 GB
IQ4_XS14 GB16 GB18 GB24 GB
Q3_K_M13 GB15 GB16 GB23 GB

和计算器用同一套算法,Qwen3.8-27B 结构,F16 KV 缓存。

为什么 Qwen3.8-27B 的 KV 缓存很小

它的 64 层里只有 16 层是全注意力(4 个 KV 头,每头维度 256),其余 48 层是状态大小固定的 Gated DeltaNet。所以每个上下文 token 在 F16 下只占约 64 KB,32K 上下文只多出约 2 GB。每层都有 KV 缓存的纯稠密 27B 模型,大约要多用 4 倍。

来源: Qwen3.8-27B 模型卡(架构)

对照验证

Ollama 上 4-bit 的 qwen3.8:27b 标注为 18 GB。计算器按 27B 参数、Q4_K_M 算出约 16.5 GB;模型卡标注含视觉编码器共 28B 参数,差距就在这里。

来源: Ollama 模型库:qwen3.8

Qwen4 发布状态 · Qwen4-27B · GGUF 下载导航 · 本地部署 · 在线体验 · Qwen4-27B 和 Qwen3.8-27B 对比

常见问题

Qwen4-27B 需要多少显存?

规格还没公布。如果和 Qwen3.8-27B 接近:4-bit 加 32K 上下文约 20 GB,8-bit 约 32 GB,仅 BF16 权重就约 54 GB。

16 GB 显存能跑 Qwen4-27B 吗?

比较勉强:3-bit 加 8K 上下文约需 15 GB,质量会有一些损失。

上下文长度影响大吗?

在 Qwen3.8-27B 的结构下,F16 每 32K token 约 2 GB。纯稠密的 27B 模型大约是它的 4 倍。

独立指南,与阿里巴巴和 Qwen 团队无关联。状态核对于 2026 年 10 月 11 日。Qwen4 权重尚未发布,发布后我们会更新本页。