最後更新:
Qwen4 顯存計算器
選好權重格式與上下文長度,就能看到 27B 的 Qwen 模型需要多少顯存。Qwen4-27B 的規格尚未公布,所以預設以 Qwen3.8-27B 的結構計算,也可以切換到純稠密結構看最壞情況。
計算器
| 權重 | |
|---|---|
| KV 快取 | |
| 執行時預留 | |
| 預估總顯存 |
僅為估算。權重依各 llama.cpp 格式的平均每參數位元數計算;KV 快取依你選的注意力結構計算;執行時統一預留 1 GB。實際用量會因推理引擎、批次大小與是否輸入圖片而不同。
27B 模型速查表
| 格式 | 權重 | 總計(8K 上下文) | 總計(32K) | 總計(128K) |
|---|---|---|---|---|
| BF16 | 54 GB | 56 GB | 57 GB | 64 GB |
| Q8_0 | 29 GB | 30 GB | 32 GB | 38 GB |
| Q6_K | 22 GB | 24 GB | 25 GB | 32 GB |
| Q5_K_M | 19 GB | 21 GB | 22 GB | 29 GB |
| Q4_K_M | 17 GB | 18 GB | 20 GB | 26 GB |
| IQ4_XS | 14 GB | 16 GB | 18 GB | 24 GB |
| Q3_K_M | 13 GB | 15 GB | 16 GB | 23 GB |
與計算器使用同一套算法,Qwen3.8-27B 結構,F16 KV 快取。
為什麼 Qwen3.8-27B 的 KV 快取很小
它的 64 層中只有 16 層是全注意力(4 個 KV 頭,每頭維度 256),其餘 48 層是狀態大小固定的 Gated DeltaNet。所以每個上下文 token 在 F16 下只佔約 64 KB,32K 上下文只多出約 2 GB。每層都有 KV 快取的純稠密 27B 模型,大約要多用 4 倍。
對照驗證
Ollama 上 4-bit 的 qwen3.8:27b 標示為 18 GB。計算器以 27B 參數、Q4_K_M 算出約 16.5 GB;模型卡標示含視覺編碼器共 28B 參數,差距就在這裡。
Qwen4 相關頁面
Qwen4 發布狀態 · Qwen4-27B · GGUF 下載 · 本機部署 · 線上體驗 · Qwen4-27B 與 Qwen3.8-27B 比較
常見問題
Qwen4-27B 需要多少顯存?
規格尚未公布。如果與 Qwen3.8-27B 相近:4-bit 加 32K 上下文約 20 GB,8-bit 約 32 GB,僅 BF16 權重就約 54 GB。
16 GB 顯存能跑 Qwen4-27B 嗎?
比較勉強:3-bit 加 8K 上下文約需 15 GB,品質會有些損失。
上下文長度影響大嗎?
在 Qwen3.8-27B 的結構下,F16 每 32K token 約 2 GB。純稠密的 27B 模型大約是它的 4 倍。
獨立指南,與阿里巴巴及 Qwen 團隊無關。狀態核對於 2026 年 10 月 11 日。Qwen4 權重尚未發布,發布後我們會更新本頁。