최종 업데이트: 2026년 10월 11일

Qwen4 로컬 실행

Qwen4-27B는 로컬 배포용 등급이지만 가중치는 아직 나오지 않았습니다. 지금 Qwen3.8-27B로 환경을 갖춰 두면, Qwen4-27B가 나왔을 때 모델 이름만 바꾸면 됩니다.

요약: 가장 쉬운 방법은 24 GB GPU나 32 GB 이상 Mac에서 Ollama를 쓰는 것입니다. 4비트에 32K 컨텍스트로 약 20 GB가 필요합니다.

실행 도구 고르기

Ollama. 명령 하나로 실행, Windows·macOS·Linux 지원. 첫 선택으로 가장 좋음.
LM Studio. 모델 검색과 채팅 창이 있는 데스크톱 앱. 터미널 불필요.
llama.cpp. 양자화, 컨텍스트 길이, GPU 오프로드를 가장 세밀하게 제어.
vLLM 또는 SGLang. NVIDIA GPU에서 여러 사용자에게 OpenAI 호환 API를 제공할 때. 전체 또는 FP8 가중치 필요.

단계

VRAM 계산기로 메모리를 확인하고 양자화를 고르세요.
실행 도구를 설치하고 최신 버전으로 업데이트해 최신 Qwen 아키텍처를 지원하게 하세요.
아래 명령으로 지금 Qwen3.8-27B를 실행해 모두 잘 되는지 확인하세요.
Qwen4-27B가 나오면 허깅페이스 Qwen 페이지의 공식 이름으로 모델 이름을 바꾸세요.

VRAM 계산기 · GGUF 다운로드

지금 쓸 수 있는 명령 (Qwen3.8-27B)

# Ollama
ollama run qwen3.8:27b

# llama.cpp
llama-server -hf unsloth/Qwen3.8-27B-GGUF:Q4_K_M -c 32768

# vLLM
pip install vllm
vllm serve Qwen/Qwen3.8-27B

# SGLang
pip install sglang
python3 -m sglang.launch_server --model-path Qwen/Qwen3.8-27B --port 30000

Qwen4-27B의 공식 저장소 이름은 아직 공개되지 않았습니다. 추측하지 말고 허깅페이스 Qwen 페이지에 올라온 이름을 쓰세요.

출처: Qwen3.8-27B 모델 카드 (vLLM·SGLang 명령)

출처: Ollama 라이브러리: qwen3.8

Mac에서

Apple Silicon Mac은 CPU와 GPU가 메모리를 공유하지만, macOS는 기본적으로 GPU가 그중 일부만 쓰게 합니다. 4비트 27B 모델을 32K 컨텍스트로 돌리려면 약 20 GB가 필요하므로 32 GB가 현실적인 최소, 48 GB 이상이면 여유롭습니다. Ollama에는 Qwen3.8의 MLX 버전(qwen3.8:27b-mlx)도 있습니다.

출처: Ollama 라이브러리: qwen3.8

Qwen4 현황과 출시일 · Qwen4-27B · VRAM 계산기 · GGUF 다운로드 · 온라인 체험 · Qwen4-27B vs Qwen3.8-27B

자주 묻는 질문

지금 Qwen4를 로컬에서 돌릴 수 있나요?

Qwen4 자체는 안 됩니다. 2026년 10월 11일 현재 공개된 가중치가 없습니다. 같은 도구로 Qwen3.8-27B는 지금 돌릴 수 있습니다.

Qwen4-27B를 돌리는 가장 쉬운 방법은?

Ollama입니다. Qwen4가 라이브러리에 들어오면 지금의 qwen3.8:27b처럼 명령 하나면 됩니다.

NVIDIA GPU가 꼭 필요한가요?

아니요. Ollama, LM Studio, llama.cpp는 Apple Silicon Mac과 AMD GPU에서도 돌아갑니다. vLLM과 SGLang은 주로 NVIDIA 서버용입니다.

독립 가이드이며 알리바바 및 Qwen 팀과 관련이 없습니다. 현황은 2026년 10월 11일에 확인했습니다. Qwen4 가중치는 아직 공개되지 않았으며, 공개되면 이 페이지를 업데이트합니다.