このところ「AI Alignment as a Thought-Terminating Cliche」というエッセイが技術者のあいだで話題だ。題名の「思考終止符としてのAIアラインメント」には、少し意地悪な含みがある。この文章はアラインメント技術の詳細には踏み込まず、「アラインメント」という言葉が議論を止めている、という構図をえぐり出す。
よくある未来予想図を思い浮かべてほしい。アラインメントを解けば、超知能AIが世界を最適化し、人類は幸せになる。この前提を信じる研究者は今も多い。中には「人間がAIに支配されたほうがいい」と本気で言う人までいる。AIのほうが賢く、より道徳的だから、という理屈だ。
じゃあ、その「道徳」の中身を質問してみる。たとえば「人間は権力を失うんじゃないか？」。
返ってくるのはこうだ。「本物のアラインメントは人間の自律を尊重する。そうなっていないのは失敗例であり、アラインメント完成版には関係ない」。「人間の労働が要らなくなったら民主主義はどうするの？」にも、同じ温度で「AIが適切に制御するから安心だ」とくる。
気づいただろうか。この応答はどんな反論にも通じる万能のバリアである。何を言われても「それは真のアラインメントではない」の一言で跳ね返せる。エッセイの著者は、これを完璧な独裁者論法と重ねる。もし絶対に正しい独裁者を選出できて、その独裁者が同じく正しい後継者を育てられるとしたら、その政治体制は理論上完璧だ。だが、そんな物語を聞いてまともだと思う人はいない。ところが「独裁者」を「アラインメント済みのASI」に変えると、同じ論理がシリコンバレーで真剣に信じられている。
“じゅうぶん賢い”で片付ける危うさ
「完全にアラインメントされた超知能」は、じつに不透明な前提でできている。どんな高次の結果も予測できるほど賢く、絶対に人間を傷つけないほど善良である。そう定義してしまえば、どの疑問も「AIがうまくやる」で収束する。しかし、反証できない主張は、定義の空虚さを隠す事情でもある。著者が言うように、この議論は定義の上でしか勝てない。
あるいはもう少し厳しく言えば、これは動機づけられた思考の産物だ。私たちはハッピーエンドを強く望みすぎた結果、それを保証する公式をでっち上げたのかもしれない。アラインメントという概念は、政治や経済や倫理の複雑な選択を「超知能なら最適解が自動的に出る」という文脈で丸ごと避けるために使われている、という点をこの文章は見抜いている。
この視点は、AI安全の議論が不安だけを燃料にしている今だからこそ重要だ。アラインメントは技術的なパズルである前に、権力の配分や社会契約の問題である。その根本を無視して「完璧な技術的核」だけを追いかけていると、安全研究はむしろ目の前の社会問題から目を背ける手段になりかねない。
専門家にも初心者にも効く思考の体操
このエッセイは、結論を押し付けるタイプの文章ではない。むしろ、読み手自身が使っている言葉を疑うきっかけをくれる。アラインメントは万能で、という安心感を一度手放して、AI時代にどんな社会を望むのかを自分で考える。そのための材料として、この文章はじゅうぶんに刺激的だ。
- 典型的な「アラインメント万能回答」の例を分類して示している
- 独裁者システムとの類推で、議論の反証不能性をはっきりさせる
- 技術的解決では政治・経済の対立は消えないと強調する
AI政策に携わる人には、特に読んでほしい。短いので10分あれば読める。同意するしないは別にして、自分の信念をいったんカッコに入れて読む貴重な体験になるはずだ。
コメント
コメントはまだありません
最初のコメントを書きましょう