ガードレールとは

詳しい説明

ガードレール(Guardrail)とは、AIが不適切・有害・機密情報の漏えいといった望ましくない出力をしないよう、入力と出力を監視・制御する安全策の総称です。道路のガードレールのように、逸脱を防ぐ枠を設けます。

具体的には、禁止トピックのフィルタリング、個人情報の検出とマスキング、出力形式の検証、システムプロンプトによる方針指定などが含まれます。ルールベースの検査と、別のAIによるチェックを組み合わせることもあります。

アラインメントが「モデル自体を望ましく整える」のに対し、ガードレールは「運用時に周囲で守る」役割を担い、両者を併用して安全性を高めます。

具体例

• ユーザー入力から個人情報を検出し、送信前にマスキングする。
• 回答が指定のカテゴリ外に逸れた場合に、定型の案内へ切り替える。

よくある質問