学習・調整
量子化(クオンタイゼーション)とは
Quantization（りょうしか）
ひとことで言うと
モデル内部の数値を低い精度で表現し直し、サイズと計算量を削減する軽量化技術です。
詳しい説明
量子化とは、モデルのパラメータを高精度(例: 32ビット浮動小数点)からより低いビット数(例: 8ビットや4ビット整数)へ変換し、メモリ使用量と計算コストを削減する手法です。
これによりモデルは大幅に軽くなり、GPUメモリの小さい環境や個人PC、エッジ機器でも動かしやすくなります。多少の精度低下と引き換えに、速度とコスト効率を得るトレードオフです。
同じモデルの構造は保ったまま軽くする点が、別モデルを作り直す蒸留との違いです。ローカルでLLMを動かす際によく使われます。
具体例
- 4bit量子化したモデルを、個人のノートPCのGPUで動かす。
- 推論コストを抑えるため、本番運用でINT8量子化を適用する。
よくある質問
量子化すると性能は落ちる?
一般に多少の精度低下は生じますが、手法の工夫により実用上ほとんど問題ない範囲に抑えられることが多いです。得られるメモリ・速度・コストの利点が大きいため広く使われています。
本ページは、広く確立したAIの用語・概念を、公開情報にもとづき編集部がわかりやすく整理したものです。特定製品の最新仕様・数値は各提供元の公式ドキュメントをご確認ください。
最終更新: 2026-07-07