モデルサイズはVRAMと直結します。4ビット量子化基準でおおよそモデルサイズと同じGBが必要です。
| モデルサイズ | Q4 VRAM | 推奨GPU | 用途 |
|---|---|---|---|
| 7~8B | 約5GB | L4 24GB / RTX 4060Ti | 要約・分類・RAG |
| 14B | 約9GB | L4 24GB | 複合文書処理 |
| 32B | 約20GB | L4 24GB（単一） | 高難度推論 |
英語のベンチマーク順位が韓国語でそのまま維持されるわけではありません。実際の業務文書で必ず比較する必要があります。
最も大きなモデルが常に最善ではありません。現場業務はほとんど7～14Bで十分です。