Zuletzt aktualisiert: 11. Oktober 2026

Qwen4 lokal ausführen

Qwen4-27B ist die Qwen4-Stufe für den lokalen Einsatz, doch die Gewichte sind noch nicht da. Richten Sie Ihre Umgebung jetzt mit Qwen3.8-27B ein; wenn Qwen4-27B erscheint, ändert sich nur der Modellname.

Kurz gesagt: am einfachsten ist Ollama auf einer 24-GB-GPU oder einem Mac mit 32 GB oder mehr. Eine 4-Bit-Version mit 32K Kontext braucht etwa 20 GB.

Eine Laufzeit wählen

Ollama. Ein Befehl, läuft unter Windows, macOS und Linux. Die beste erste Wahl.
LM Studio. Desktop-App mit Modellkatalog und Chatfenster; kein Terminal nötig.
llama.cpp. Die meiste Kontrolle über Quantisierung, Kontextlänge und GPU-Offload.
vLLM oder SGLang. Zum Bereitstellen einer OpenAI-kompatiblen API für viele Nutzer auf NVIDIA-GPUs; braucht volle oder FP8-Gewichte.

Schritte

Prüfen Sie Ihren Speicher mit dem VRAM-Rechner und wählen Sie eine Quantisierung.
Installieren und aktualisieren Sie Ihre Laufzeit, damit sie die neueste Qwen-Architektur unterstützt.
Starten Sie jetzt Qwen3.8-27B mit einem der Befehle unten, um zu prüfen, ob alles läuft.
Wenn Qwen4-27B erscheint, ersetzen Sie den Modellnamen durch den offiziellen Namen von der Qwen-Seite auf Hugging Face.

VRAM-Rechner · GGUF-Downloads

Befehle, die heute funktionieren (Qwen3.8-27B)

# Ollama
ollama run qwen3.8:27b

# llama.cpp
llama-server -hf unsloth/Qwen3.8-27B-GGUF:Q4_K_M -c 32768

# vLLM
pip install vllm
vllm serve Qwen/Qwen3.8-27B

# SGLang
pip install sglang
python3 -m sglang.launch_server --model-path Qwen/Qwen3.8-27B --port 30000

Der offizielle Repository-Name von Qwen4-27B ist noch nicht veröffentlicht. Raten Sie ihn nicht: Nutzen Sie den Namen von der Qwen-Seite auf Hugging Face, sobald er erscheint.

Quelle: Model Card von Qwen3.8-27B (vLLM- und SGLang-Befehle)

Quelle: Ollama-Bibliothek: qwen3.8

Auf dem Mac

Macs mit Apple Silicon teilen den Speicher zwischen CPU und GPU, doch macOS lässt die GPU standardmäßig nur einen Teil davon nutzen. Für ein 27B-Modell in 4 Bit mit 32K Kontext (etwa 20 GB) sind 32 GB Speicher das realistische Minimum, 48 GB oder mehr sind komfortabel. Ollama führt auch eine MLX-Version von Qwen3.8 (qwen3.8:27b-mlx).

Quelle: Ollama-Bibliothek: qwen3.8

Qwen4: Status und Release-Datum · Qwen4-27B · VRAM-Rechner · GGUF-Downloads · Online testen · Qwen4-27B vs. Qwen3.8-27B

FAQ

Kann ich Qwen4 schon lokal ausführen?

Qwen4 selbst nicht: Stand 11. Oktober 2026 sind keine Gewichte veröffentlicht. Qwen3.8-27B läuft mit denselben Werkzeugen schon heute.

Wie starte ich Qwen4-27B am einfachsten?

Mit Ollama. Sobald Qwen4 in der Bibliothek ist, reicht ein Befehl, so wie heute bei qwen3.8:27b.

Brauche ich eine NVIDIA-GPU?

Nein. Ollama, LM Studio und llama.cpp laufen auch auf Macs mit Apple Silicon und auf AMD-GPUs. vLLM und SGLang sind vor allem für NVIDIA-Server gedacht.

Unabhängiger Ratgeber, nicht mit Alibaba oder dem Qwen-Team verbunden. Stand geprüft am 11. Oktober 2026. Die Qwen4-Gewichte sind noch nicht veröffentlicht; wir aktualisieren diese Seite, sobald sie erscheinen.