学習・調整
アラインメントとは
Alignment（アラインメント）
ひとことで言うと
AIの振る舞いを、人間の意図・価値観・安全基準に沿わせる取り組みの総称です。
詳しい説明
アラインメント(整合)とは、AIが人間の意図や社会的な価値観、安全性の基準に沿って動くようにする研究・技術・運用の総称です。「賢いこと」と「望ましく振る舞うこと」は別問題であり、後者を担保する取り組みです。
RLHFによる好みの学習、ガードレールによる制約、有害・不正確な出力の抑制などが具体的な手段です。指示に従いつつ、危険・違法・差別的な要求は適切に断る、といったバランスが目標になります。
モデルが強力になるほど重要性が増す分野であり、安全性研究の中心テーマの一つです。
具体例
- 危険物の作り方など有害な要求には応じないよう調整する。
- ユーザーの真意を汲みつつ、事実に反する断定を避けるよう振る舞わせる。
よくある質問
アラインメントはなぜ必要?
高性能なAIでも、人間の意図や安全基準からずれた振る舞いをすれば有害になり得ます。役立ちつつ安全に使えるようにするため、価値観や意図との整合を図る取り組みが不可欠です。
出典・参考(一次ソース)
本ページは、広く確立したAIの用語・概念を、公開情報にもとづき編集部がわかりやすく整理したものです。特定製品の最新仕様・数値は各提供元の公式ドキュメントをご確認ください。
最終更新: 2026-07-07