OpenAIのサム・アルトマンCEOが先週、社員向けの講演でAIを安全に進めるための三つの「終着点」を語ったと伝えられています。
国際的な監督機関、主要ラボの統合、単独ラボの独走という三案で、同氏は1年以内に進路を選ぶ段階を「pacing 2.0」と呼び、AIの自己改良には速度制限や停止点が必要だと述べたとされています。
出荷前の検査だけでは足りなくなる日
いまのOpenAIの安全策は、モデルが安全性テストに合格したら公開し、懸念があればその点を知らせるという流れです。アルトマン氏はこのやり方を「pacing 1.0」と呼んでいるとされます。車にたとえるなら、完成した車を出荷前に検査して、問題がなければ道路に出す方式でしょう。
ただ、AIが自分自身を改良し始めるとなると、話は変わってきます。検査を通った一台を送り出すだけでなく、車の進化する速さそのものをどう扱うかが問われるからです。次の段階として語られた「pacing 2.0」は、まさにこの論点にあたります。
三案が描く、まったく違う統治の姿
三つの案は、AI開発を誰が握るのかという点でくっきり分かれています。ここでは違いを整理してみます。
第一案は、国際原子力機関（IAEA）のような世界的な監督機関をつくる構想です。アルトマン氏はこの案を支持しているとされ、OpenAIは2023年からこうした枠組みの必要性を訴えてきました。
第二案は、DeepMind共同創業者のデミス・ハサビス氏にちなんで「Demis plan」と呼ばれます。主要ラボを一つにまとめ、参加国のために研究を進める形で、欧州の素粒子物理研究機関CERNに似た仕組みだと説明されています。
第三案は、AI研究者エリーザー・ユドコウスキー氏の名前が付いた筋書きです。一つのラボが自己改良するAIを使って先行し、他社のGPUを「溶かす」ほど突き放す展開で、アルトマン氏は「terrible」と評したとされています。
三案を並べて見えること
監督機関は「ルールを外から決める」案、ラボ統合は「研究資源を一か所に集める」案、単独先行は「競争の勝者に委ねる」案と言い換えられます。三つとも安全な未来を目指す点では同じでも、権限の置き場所が違います。
個人的には、第三案が最も現実味を帯びやすいのが厄介だと感じています。何も決めないまま競争が続けば、自然に行き着く先がそこだからです。アルトマン氏が三案の中で最も強い言葉を使ったのも、そのためかもしれません。
問われるのは、速度制限を誰が決めるのか
アルトマン氏は、進路の選択を1年以内に行う必要があるとし、その中身には自己改良AIへの「速度制限」や停止点を含めるべきだと語ったとされています。アクセルだけの車に、ブレーキの設計図を後から付けようという話です。
問題は、そのブレーキを誰が踏むのかでしょう。監督機関に権限を持たせるのか、ラボを一つにまとめるのか。どの案でも、主要なプレーヤーが全員テーブルに着かなければ成立しません。ヒーロー映画のように各ラボが一つ屋根の下に集まる構図は魅力的ですが、これまでの国際的な取り決めがそうだったように、参加者を揃えること自体が最大の難所になりそうです。
ライバルの発言と重なる方向性
同じ時期、Anthropicのジャック・クラーク氏は、知能に上限を設ける考え方に触れ、安全面で動ける期間は「ほんの数年」だと語ったと伝えられています。競合関係にある2社の幹部が、似た方向の危機感を口にしている構図です。
競争相手同士が同じ課題を語り始めたとき、議論は理念から実行の段階へ進む可能性があります。ただし、現時点でOpenAIがどの案を正式に採用したわけではなく、あくまで構想の段階です。1年という期限が、業界全体の議論を動かす時計になるかどうか。注目しておきたいところです。
コメント