최종 업데이트:
Qwen4 VRAM 계산기
가중치 형식과 컨텍스트 길이를 고르면 27B Qwen 모델에 필요한 GPU 메모리를 볼 수 있습니다. Qwen4-27B 사양은 아직 공개되지 않아 기본값은 Qwen3.8-27B 구조를 쓰며, 순수 밀집 모델로 바꿔 최악의 경우도 확인할 수 있습니다.
계산기
| 가중치 | |
|---|---|
| KV 캐시 | |
| 런타임 여유분 | |
| 예상 합계 |
추정치일 뿐입니다. 가중치는 llama.cpp 형식별 평균 비트 수로, KV 캐시는 선택한 어텐션 구조로 계산하며 런타임 여유분은 1 GB로 고정합니다. 실제 사용량은 엔진, 배치 크기, 이미지 입력 여부에 따라 다릅니다.
27B 모델 빠른 표
| 형식 | 가중치 | 합계 (8K 컨텍스트) | 합계 (32K) | 합계 (128K) |
|---|---|---|---|---|
| BF16 | 54 GB | 56 GB | 57 GB | 64 GB |
| Q8_0 | 29 GB | 30 GB | 32 GB | 38 GB |
| Q6_K | 22 GB | 24 GB | 25 GB | 32 GB |
| Q5_K_M | 19 GB | 21 GB | 22 GB | 29 GB |
| Q4_K_M | 17 GB | 18 GB | 20 GB | 26 GB |
| IQ4_XS | 14 GB | 16 GB | 18 GB | 24 GB |
| Q3_K_M | 13 GB | 15 GB | 16 GB | 23 GB |
계산기와 같은 계산식, Qwen3.8-27B 구조, F16 KV 캐시.
Qwen3.8-27B의 KV 캐시가 작은 이유
64개 층 중 풀 어텐션은 16개(KV 헤드 4개, 차원 256)뿐이고, 나머지 48개는 상태 크기가 고정된 Gated DeltaNet 층입니다. 그래서 F16 기준 컨텍스트 토큰 하나에 약 64 KB, 32K 컨텍스트에도 약 2 GB만 늘어납니다. 모든 층에 KV 캐시가 있는 순수 밀집 27B 모델이라면 약 4배가 필요합니다.
검증
Ollama에는 4비트 버전인 qwen3.8:27b가 18 GB로 표시됩니다. 계산기는 27B 파라미터, Q4_K_M 기준 약 16.5 GB를 냅니다. 모델 카드에는 비전 인코더를 포함해 28B 파라미터로 나와 있어 차이가 설명됩니다.
Qwen4 관련 페이지
Qwen4 현황과 출시일 · Qwen4-27B · GGUF 다운로드 · 로컬 실행 · 온라인 체험 · Qwen4-27B vs Qwen3.8-27B
자주 묻는 질문
Qwen4-27B에는 VRAM이 얼마나 필요한가요?
사양은 공개되지 않았습니다. Qwen3.8-27B와 비슷하다면 4비트·32K 컨텍스트로 약 20 GB, 8비트로 약 32 GB, BF16 가중치만 약 54 GB입니다.
16 GB로 Qwen4-27B를 돌릴 수 있나요?
빠듯합니다. 3비트에 8K 컨텍스트로 약 15 GB가 필요하며 품질 손실이 다소 있습니다.
컨텍스트 길이가 많이 중요한가요?
Qwen3.8-27B 구조에서는 F16 기준 32K 토큰당 약 2 GB입니다. 순수 밀집 27B 모델이라면 약 4배입니다.
독립 가이드이며 알리바바 및 Qwen 팀과 관련이 없습니다. 현황은 2026년 10월 11일에 확인했습니다. Qwen4 가중치는 아직 공개되지 않았으며, 공개되면 이 페이지를 업데이트합니다.