최종 업데이트: 2026년 10월 11일

Qwen4 GGUF: 어디서 받고 어떤 파일을 고를까

Qwen4 가중치가 공개되지 않았으므로 공식 Qwen4 GGUF도 아직 없습니다. Qwen4-27B가 나오면 llama.cpp, Ollama, LM Studio용 GGUF는 보통 하루 안에 올라옵니다. 어디를 보고 어떻게 고를지 정리했습니다.

Qwen4 GGUF가 올라올 곳

• 허깅페이스의 Qwen. 가장 먼저 확인하세요. Qwen이 직접 GGUF를 올리기도 하며, 기반 모델은 Qwen/ 저장소여야 합니다.
• Unsloth. Qwen3.8-27B GGUF(unsloth/Qwen3.8-27B-GGUF)를 공개했으며, 해당 모델에서 가장 많이 받은 버전입니다.
• LM Studio 커뮤니티. LM Studio에 맞춘 lmstudio-community/Qwen3.8-27B-GGUF를 공개했습니다.
• Ollama 라이브러리. Qwen3.8은 qwen3.8:27b(약 18 GB)로 올라와 있습니다. 출시 후 qwen4 항목이 생길 것으로 보입니다.

출처: 허깅페이스 검색: qwen4 gguf

출처: unsloth/Qwen3.8-27B-GGUF

출처: lmstudio-community/Qwen3.8-27B-GGUF

출처: Ollama 라이브러리: qwen3.8

어떤 양자화를 고를까

Qwen3.8-27B 구조의 27B 모델 기준 추정치로, KV 캐시와 약 1 GB의 런타임 오버헤드를 포함합니다. Q4_K_M이 크기와 품질의 일반적인 균형점이며, 메모리가 넉넉하면 Q5_K_M이나 Q6_K를 쓰세요.

내 GPU와 컨텍스트로 계산하기

가짜 파일이나 깨진 파일을 피하는 법

• 공식 가중치가 없으니 진짜 Qwen4 GGUF도 없습니다. 출시 전에 보이는 것은 다른 모델의 이름만 바꾼 것이거나 파인튜닝입니다.
• 모델 카드의 기반 모델(base model)이 공식 Qwen/ 저장소를 가리키는지 확인하세요.
• 원본 모델을 원한다면 "uncensored", "abliterated", 병합 버전은 건너뛰세요.
• Qwen4가 Qwen3.8-Flash-Next의 새 아키텍처를 쓴다면 이전 llama.cpp에서는 로드되지 않을 수 있습니다. llama.cpp, Ollama, LM Studio를 먼저 업데이트하세요.

출처: Qwen3.8-Flash-Next 모델 카드 (Qwen4 아키텍처 미리보기)

지금 Qwen3.8-27B GGUF 실행하기

지금 내 컴퓨터를 시험해 보세요. Qwen4-27B GGUF가 나오면 저장소 이름만 바꾸면 됩니다.

# llama.cpp (허깅페이스에서 다운로드)
llama-server -hf unsloth/Qwen3.8-27B-GGUF:Q4_K_M -c 32768

# Ollama
ollama run qwen3.8:27b

출처: unsloth/Qwen3.8-27B-GGUF

출처: Ollama 라이브러리: qwen3.8

Qwen4 관련 페이지

Qwen4 현황과 출시일 · Qwen4-27B · VRAM 계산기 · 로컬 실행 · 온라인 체험 · Qwen4-27B vs Qwen3.8-27B

독립 가이드이며 알리바바 및 Qwen 팀과 관련이 없습니다. 현황은 2026년 10월 11일에 확인했습니다. Qwen4 가중치는 아직 공개되지 않았으며, 공개되면 이 페이지를 업데이트합니다.