Guide non officiel. Sans lien avec Meta.

Dernière mise à jour:

Qwen4 en GGUF : où le télécharger et quel fichier choisir

Il n’y a pas encore de GGUF officiel de Qwen4, car ses poids ne sont pas publiés. À la sortie de Qwen4-27B, les versions GGUF pour llama.cpp, Ollama et LM Studio arrivent en général en moins d’une journée. Voici où chercher et comment choisir.

En bref : attendez la sortie officielle, puis téléchargez le Q4_K_M depuis l’organisation Qwen ou un quantificateur reconnu. Ignorez les GGUF « Qwen4 » qui apparaissent avant qu’Alibaba publie les poids.

Où apparaîtront les GGUF de Qwen4

Source: Recherche Hugging Face : qwen4 gguf

Source: unsloth/Qwen3.8-27B-GGUF

Source: lmstudio-community/Qwen3.8-27B-GGUF

Source: Bibliothèque Ollama : qwen3.8

Quelle quantification choisir

FormatPoidsTotal, contexte 8KTotal, 32KTotal, 128K
BF1654 Go56 Go57 Go64 Go
Q8_029 Go30 Go32 Go38 Go
Q6_K22 Go24 Go25 Go32 Go
Q5_K_M19 Go21 Go22 Go29 Go
Q4_K_M17 Go18 Go20 Go26 Go
IQ4_XS14 Go16 Go18 Go24 Go
Q3_K_M13 Go15 Go16 Go23 Go

Estimations pour un modèle de 27B avec l’architecture de Qwen3.8-27B, cache KV et environ 1 Go de surcoût compris. Q4_K_M est le compromis habituel entre taille et qualité ; passez à Q5_K_M ou Q6_K si la mémoire le permet.

Calculer pour votre GPU et votre contexte

Éviter les fichiers faux ou défectueux

Source: Fiche de Qwen3.8-Flash-Next (aperçu de l’architecture de Qwen4)

Lancer dès aujourd’hui le GGUF de Qwen3.8-27B

Servez-vous-en pour tester votre machine maintenant. Quand les GGUF de Qwen4-27B apparaîtront, changez le nom du dépôt.

# llama.cpp (télécharge depuis Hugging Face)
llama-server -hf unsloth/Qwen3.8-27B-GGUF:Q4_K_M -c 32768

# Ollama
ollama run qwen3.8:27b

Source: unsloth/Qwen3.8-27B-GGUF

Source: Bibliothèque Ollama : qwen3.8

État et date de sortie de Qwen4 · Qwen4-27B · Calculateur de VRAM · Faire tourner en local · Essayer en ligne · Qwen4-27B vs Qwen3.8-27B

FAQ

Existe-t-il un GGUF de Qwen4 ?

Pas d’officiel. Au 11 octobre 2026, les poids de Qwen4 ne sont pas publiés, donc aucun vrai GGUF n’existe encore.

Quel GGUF de Qwen4 télécharger ?

Q4_K_M pour la plupart des GPU de 24 Go, Q5_K_M ou Q6_K avec 32 Go, Q8_0 avec 48 Go. Vérifiez votre contexte avec le calculateur de VRAM.

Le GGUF de Qwen4 fonctionnera-t-il dans Ollama et LM Studio ?

Dès que leur version de llama.cpp prendra en charge l’architecture de Qwen4. Mettez l’application à jour avant de télécharger.

Guide indépendant, sans lien avec Alibaba ni l’équipe Qwen. État vérifié le 11 octobre 2026. Les poids de Qwen4 ne sont pas encore publiés ; nous mettrons cette page à jour à leur sortie.