Guía no oficial. Sin relación con Meta.

Última actualización:

GGUF de Qwen4: dónde descargarlo y qué archivo elegir

Todavía no hay un GGUF oficial de Qwen4, porque sus pesos no se han publicado. Cuando salga Qwen4-27B, las versiones GGUF para llama.cpp, Ollama y LM Studio suelen llegar en menos de un día. Aquí tienes dónde buscar y cómo elegir.

En resumen: espera al lanzamiento oficial y descarga Q4_K_M de la organización Qwen o de un cuantizador conocido. Ignora los GGUF “Qwen4” que aparezcan antes de que Alibaba publique los pesos.

Dónde aparecerán los GGUF de Qwen4

Fuente: Búsqueda en Hugging Face: qwen4 gguf

Fuente: unsloth/Qwen3.8-27B-GGUF

Fuente: lmstudio-community/Qwen3.8-27B-GGUF

Fuente: Biblioteca de Ollama: qwen3.8

Qué cuantización elegir

FormatoPesosTotal, contexto 8KTotal, 32KTotal, 128K
BF1654 GB56 GB57 GB64 GB
Q8_029 GB30 GB32 GB38 GB
Q6_K22 GB24 GB25 GB32 GB
Q5_K_M19 GB21 GB22 GB29 GB
Q4_K_M17 GB18 GB20 GB26 GB
IQ4_XS14 GB16 GB18 GB24 GB
Q3_K_M13 GB15 GB16 GB23 GB

Estimaciones para un modelo de 27B con el diseño de Qwen3.8-27B, incluida la caché KV y cerca de 1 GB de sobrecarga. Q4_K_M es el equilibrio habitual entre tamaño y calidad; sube a Q5_K_M o Q6_K si te sobra memoria.

Calcula para tu GPU y tu contexto

Cómo evitar archivos falsos o rotos

Fuente: Ficha de Qwen3.8-Flash-Next (vista previa de la arquitectura de Qwen4)

Ejecuta hoy el GGUF de Qwen3.8-27B

Úsalo para probar tu equipo ya. Cuando aparezcan los GGUF de Qwen4-27B, cambia el nombre del repositorio.

# llama.cpp (descarga desde Hugging Face)
llama-server -hf unsloth/Qwen3.8-27B-GGUF:Q4_K_M -c 32768

# Ollama
ollama run qwen3.8:27b

Fuente: unsloth/Qwen3.8-27B-GGUF

Fuente: Biblioteca de Ollama: qwen3.8

Estado y fecha de Qwen4 · Qwen4-27B · Calculadora de VRAM · Ejecutar en local · Probar online · Qwen4-27B vs Qwen3.8-27B

Preguntas frecuentes

¿Existe un GGUF de Qwen4?

No uno oficial. Al 11 de octubre de 2026 los pesos de Qwen4 no se han publicado, así que todavía no existe un GGUF genuino.

¿Qué GGUF de Qwen4 debo descargar?

Q4_K_M para la mayoría de GPU de 24 GB, Q5_K_M o Q6_K con 32 GB, Q8_0 con 48 GB. Usa la calculadora de VRAM para comprobar tu contexto.

¿Funcionará el GGUF de Qwen4 en Ollama y LM Studio?

Cuando su versión de llama.cpp admita la arquitectura de Qwen4. Actualiza la aplicación antes de descargar.

Guía independiente, sin relación con Alibaba ni con el equipo de Qwen. Estado revisado el 11 de octubre de 2026. Los pesos de Qwen4 aún no se han publicado; actualizaremos esta página cuando salgan.