Dernière mise à jour:
Qwen4 en GGUF : où le télécharger et quel fichier choisir
Il n’y a pas encore de GGUF officiel de Qwen4, car ses poids ne sont pas publiés. À la sortie de Qwen4-27B, les versions GGUF pour llama.cpp, Ollama et LM Studio arrivent en général en moins d’une journée. Voici où chercher et comment choisir.
Où apparaîtront les GGUF de Qwen4
- Qwen sur Hugging Face. À vérifier en premier. Qwen publie parfois ses propres GGUF ; le modèle de base doit être un dépôt Qwen/.
- Unsloth. A publié le GGUF de Qwen3.8-27B (unsloth/Qwen3.8-27B-GGUF), la version la plus téléchargée de ce modèle.
- Communauté LM Studio. A publié lmstudio-community/Qwen3.8-27B-GGUF, adapté à LM Studio.
- Bibliothèque Ollama. Référence Qwen3.8 sous qwen3.8:27b (environ 18 Go). Une entrée qwen4 est attendue après la sortie.
Source: Recherche Hugging Face : qwen4 gguf
Source: unsloth/Qwen3.8-27B-GGUF
Source: lmstudio-community/Qwen3.8-27B-GGUF
Source: Bibliothèque Ollama : qwen3.8
Quelle quantification choisir
| Format | Poids | Total, contexte 8K | Total, 32K | Total, 128K |
|---|---|---|---|---|
| BF16 | 54 Go | 56 Go | 57 Go | 64 Go |
| Q8_0 | 29 Go | 30 Go | 32 Go | 38 Go |
| Q6_K | 22 Go | 24 Go | 25 Go | 32 Go |
| Q5_K_M | 19 Go | 21 Go | 22 Go | 29 Go |
| Q4_K_M | 17 Go | 18 Go | 20 Go | 26 Go |
| IQ4_XS | 14 Go | 16 Go | 18 Go | 24 Go |
| Q3_K_M | 13 Go | 15 Go | 16 Go | 23 Go |
Estimations pour un modèle de 27B avec l’architecture de Qwen3.8-27B, cache KV et environ 1 Go de surcoût compris. Q4_K_M est le compromis habituel entre taille et qualité ; passez à Q5_K_M ou Q6_K si la mémoire le permet.
Calculer pour votre GPU et votre contexte
Éviter les fichiers faux ou défectueux
- Pas de poids officiels, donc pas de vrai GGUF de Qwen4. Tout ce qui précède la sortie est un renommage ou un fine-tune d’un autre modèle.
- Vérifiez le modèle de base sur la fiche. Il doit pointer vers le dépôt officiel Qwen/.
- Évitez les versions « uncensored », « abliterated » ou fusionnées si vous voulez le modèle d’origine.
- Si Qwen4 utilise la nouvelle architecture de Qwen3.8-Flash-Next, d’anciennes versions de llama.cpp pourraient refuser de le charger. Mettez d’abord à jour llama.cpp, Ollama ou LM Studio.
Source: Fiche de Qwen3.8-Flash-Next (aperçu de l’architecture de Qwen4)
Lancer dès aujourd’hui le GGUF de Qwen3.8-27B
Servez-vous-en pour tester votre machine maintenant. Quand les GGUF de Qwen4-27B apparaîtront, changez le nom du dépôt.
# llama.cpp (télécharge depuis Hugging Face)
llama-server -hf unsloth/Qwen3.8-27B-GGUF:Q4_K_M -c 32768
# Ollama
ollama run qwen3.8:27bSource: unsloth/Qwen3.8-27B-GGUF
Source: Bibliothèque Ollama : qwen3.8
Plus sur Qwen4
État et date de sortie de Qwen4 · Qwen4-27B · Calculateur de VRAM · Faire tourner en local · Essayer en ligne · Qwen4-27B vs Qwen3.8-27B
FAQ
Existe-t-il un GGUF de Qwen4 ?
Pas d’officiel. Au 11 octobre 2026, les poids de Qwen4 ne sont pas publiés, donc aucun vrai GGUF n’existe encore.
Quel GGUF de Qwen4 télécharger ?
Q4_K_M pour la plupart des GPU de 24 Go, Q5_K_M ou Q6_K avec 32 Go, Q8_0 avec 48 Go. Vérifiez votre contexte avec le calculateur de VRAM.
Le GGUF de Qwen4 fonctionnera-t-il dans Ollama et LM Studio ?
Dès que leur version de llama.cpp prendra en charge l’architecture de Qwen4. Mettez l’application à jour avant de télécharger.
Guide indépendant, sans lien avec Alibaba ni l’équipe Qwen. État vérifié le 11 octobre 2026. Les poids de Qwen4 ne sont pas encore publiés ; nous mettrons cette page à jour à leur sortie.