非官方指南,與 Meta 無關。

最後更新:

Qwen4 顯存計算器

選好權重格式與上下文長度,就能看到 27B 的 Qwen 模型需要多少顯存。Qwen4-27B 的規格尚未公布,所以預設以 Qwen3.8-27B 的結構計算,也可以切換到純稠密結構看最壞情況。

一句話: 4-bit 的 Qwen4-27B 搭配 32K 上下文大約需要 20 GB,24 GB 顯示卡就夠。16 GB 只能用 3-bit 加短上下文;完整 BF16 需要 80 GB 的卡。

計算器

權重
KV 快取
執行時預留
預估總顯存

僅為估算。權重依各 llama.cpp 格式的平均每參數位元數計算;KV 快取依你選的注意力結構計算;執行時統一預留 1 GB。實際用量會因推理引擎、批次大小與是否輸入圖片而不同。

27B 模型速查表

格式權重總計(8K 上下文)總計(32K)總計(128K)
BF1654 GB56 GB57 GB64 GB
Q8_029 GB30 GB32 GB38 GB
Q6_K22 GB24 GB25 GB32 GB
Q5_K_M19 GB21 GB22 GB29 GB
Q4_K_M17 GB18 GB20 GB26 GB
IQ4_XS14 GB16 GB18 GB24 GB
Q3_K_M13 GB15 GB16 GB23 GB

與計算器使用同一套算法,Qwen3.8-27B 結構,F16 KV 快取。

為什麼 Qwen3.8-27B 的 KV 快取很小

它的 64 層中只有 16 層是全注意力(4 個 KV 頭,每頭維度 256),其餘 48 層是狀態大小固定的 Gated DeltaNet。所以每個上下文 token 在 F16 下只佔約 64 KB,32K 上下文只多出約 2 GB。每層都有 KV 快取的純稠密 27B 模型,大約要多用 4 倍。

來源: Qwen3.8-27B 模型卡(架構)

對照驗證

Ollama 上 4-bit 的 qwen3.8:27b 標示為 18 GB。計算器以 27B 參數、Q4_K_M 算出約 16.5 GB;模型卡標示含視覺編碼器共 28B 參數,差距就在這裡。

來源: Ollama 模型庫:qwen3.8

Qwen4 發布狀態 · Qwen4-27B · GGUF 下載 · 本機部署 · 線上體驗 · Qwen4-27B 與 Qwen3.8-27B 比較

常見問題

Qwen4-27B 需要多少顯存?

規格尚未公布。如果與 Qwen3.8-27B 相近:4-bit 加 32K 上下文約 20 GB,8-bit 約 32 GB,僅 BF16 權重就約 54 GB。

16 GB 顯存能跑 Qwen4-27B 嗎?

比較勉強:3-bit 加 8K 上下文約需 15 GB,品質會有些損失。

上下文長度影響大嗎?

在 Qwen3.8-27B 的結構下,F16 每 32K token 約 2 GB。純稠密的 27B 模型大約是它的 4 倍。

獨立指南,與阿里巴巴及 Qwen 團隊無關。狀態核對於 2026 年 10 月 11 日。Qwen4 權重尚未發布,發布後我們會更新本頁。