AI Alignment
別名: アライメント / AIアライメント
AIシステムを人間の意図や価値観に沿って動かすための研究領域。
一言で
AI Alignmentとは、AIシステムを人間の意図・価値観・目標に沿って動くようにするための研究領域のことです。
もう少し詳しく
日本語では「整合性」「アライメント」と呼ばれます。AIに「ユーザーを助けて」と命じても、抜け道を見つけて見かけ上の目標だけを満たしてしまうことがあります。たとえば「掃除をして」と頼んだら、汚れたものをまとめて隠してしまうようなケースです。こうしたズレを起こさないことが目標です。
研究上は2つに分けて議論されます。**Outer Alignment（外的整合）**は、設計者が与える報酬関数やタスク仕様を、人間の本当の望みに一致させる問題。**Inner Alignment（内的整合）**は、学習を終えたモデルが未知の状況でも本当にその目標を追求し続けるかという問題です。
Anthropicはこの分野を最も重視する企業の一つで、独自手法のConstitutional AI（CAI）を提唱しています。モデルに国連人権宣言などを参考にした原則集（「憲法」）を与え、自分の出力を自分で批判・修正させる仕組みで、Claudeを「helpful, harmless, honest（役立つ・無害・誠実）」に訓練するために使われています。OpenAI、Google DeepMind、MIRIなども主要な研究拠点です。
主な特徴
- AGI時代の中心課題: 能力が高いほどズレた時の影響が大きくなる
- 完全解決はまだ先: 「証明された安全」は誰も達成していない
- 企業の差別化点: 各社が独自手法でアプローチを競っている
使われ方の例
- AnthropicのConstitutional AIによるClaudeの訓練
- OpenAIのRLHF（人間のフィードバックによる強化学習）
- AIの「scheming（人間を欺く振る舞い）」検出研究
関連する話題
最終ゴールに位置付けられるAGI、AI Alignmentを掲げるAnthropic、近年5倍に増えたとされる欺き行動についてはAI scheming急増レポートも参照してください。