Zuletzt aktualisiert:
Qwen4-VRAM-Rechner
Wählen Sie ein Gewichtsformat und eine Kontextlänge, um zu sehen, wie viel GPU-Speicher ein 27B-Qwen-Modell braucht. Die Daten von Qwen4-27B sind noch nicht veröffentlicht; standardmäßig wird daher der Aufbau von Qwen3.8-27B verwendet, und Sie können auf ein rein dichtes Modell als Worst Case umschalten.
Rechner
| Gewichte | |
|---|---|
| KV-Cache | |
| Laufzeitreserve | |
| Geschätzt gesamt |
Nur eine Schätzung. Die Gewichte nutzen die durchschnittlichen Bits pro Gewicht des jeweiligen llama.cpp-Formats, der KV-Cache den gewählten Attention-Aufbau, die Laufzeitreserve ist pauschal 1 GB. Der tatsächliche Bedarf hängt von Engine, Batchgröße und Bildeingabe ab.
Schnelltabelle für ein 27B-Modell
| Format | Gewichte | Gesamt, 8K Kontext | Gesamt, 32K | Gesamt, 128K |
|---|---|---|---|---|
| BF16 | 54 GB | 56 GB | 57 GB | 64 GB |
| Q8_0 | 29 GB | 30 GB | 32 GB | 38 GB |
| Q6_K | 22 GB | 24 GB | 25 GB | 32 GB |
| Q5_K_M | 19 GB | 21 GB | 22 GB | 29 GB |
| Q4_K_M | 17 GB | 18 GB | 20 GB | 26 GB |
| IQ4_XS | 14 GB | 16 GB | 18 GB | 24 GB |
| Q3_K_M | 13 GB | 15 GB | 16 GB | 23 GB |
Dieselbe Rechnung wie im Rechner, Aufbau von Qwen3.8-27B, KV-Cache in F16.
Warum der KV-Cache bei Qwen3.8-27B klein bleibt
Nur 16 der 64 Schichten nutzen volle Attention (4 KV-Köpfe mit Dimension 256); die übrigen 48 sind Gated-DeltaNet-Schichten mit festem Zustand. Jedes Kontext-Token kostet daher in F16 etwa 64 KB, und 32K Kontext kommen nur auf etwa 2 GB. Ein dichtes 27B-Modell mit KV-Cache auf jeder Schicht bräuchte ungefähr das Vierfache.
Quelle: Model Card von Qwen3.8-27B (Architektur)
Plausibilitätscheck
Ollama führt qwen3.8:27b, eine 4-Bit-Version, mit 18 GB. Der Rechner ergibt etwa 16,5 GB für 27B Parameter in Q4_K_M; die Model Card nennt 28B Parameter einschließlich Vision-Encoder, was den Unterschied erklärt.
Quelle: Ollama-Bibliothek: qwen3.8
Mehr zu Qwen4
Qwen4: Status und Release-Datum · Qwen4-27B · GGUF-Downloads · Lokal ausführen · Online testen · Qwen4-27B vs. Qwen3.8-27B
FAQ
Wie viel VRAM braucht Qwen4-27B?
Die Daten sind nicht veröffentlicht. Ähnelt es Qwen3.8-27B: etwa 20 GB in 4 Bit mit 32K Kontext, etwa 32 GB in 8 Bit und etwa 54 GB allein für die BF16-Gewichte.
Läuft Qwen4-27B mit 16 GB?
Nur knapp: eine 3-Bit-Version mit 8K Kontext braucht etwa 15 GB. Rechnen Sie mit etwas Qualitätsverlust.
Spielt die Kontextlänge eine große Rolle?
Beim Aufbau von Qwen3.8-27B etwa 2 GB pro 32K Tokens in F16. Bei einem rein dichten 27B-Modell wäre es etwa das Vierfache.
Unabhängiger Ratgeber, nicht mit Alibaba oder dem Qwen-Team verbunden. Stand geprüft am 11. Oktober 2026. Die Qwen4-Gewichte sind noch nicht veröffentlicht; wir aktualisieren diese Seite, sobald sie erscheinen.