據報導，OpenAI執行長山姆・奧特曼上週在一場面向員工的演講中，談到讓AI安全發展的三種「終點」。
三種方案分別是成立國際監督機構、整合主要實驗室，以及由單一實驗室獨自領跑。據稱，奧特曼將在一年內選擇發展路徑的階段稱為「pacing 2.0」，並表示AI自我改良需要速度限制或停止點。
只靠出貨前檢驗，終將不敷使用
目前OpenAI的安全措施，是讓模型通過安全測試後再公開；若有疑慮，則告知相關問題。據稱，奧特曼將這種做法稱為「pacing 1.0」。以汽車為例，就像是在成車出廠前進行檢驗，確認沒有問題後才讓車上路。
但AI一旦開始改良自己，情況就會有所不同。問題不再只是送出一輛通過檢驗的車，而是如何應對車輛本身不斷進化的速度。所謂下一階段的「pacing 2.0」，正是要處理這個問題。
三種方案描繪截然不同的治理模式
三種方案在「由誰掌握AI開發」這一點上，涇渭分明。以下整理其差異。
第一種方案是成立類似國際原子能總署（IAEA）的全球監督機構。據稱，奧特曼支持這項方案；OpenAI自2023年起也一直呼籲建立此類架構。
第二種方案以DeepMind共同創辦人德米斯・哈薩比斯之名，稱為「Demis plan」。這項方案將主要實驗室整合為一個機構，為參與國家進行研究；據稱，這種模式類似歐洲粒子物理研究機構CERN。
第三種方案則以AI研究者埃利澤・尤德考斯基之名命名。其情境是由單一實驗室運用自我改良的AI搶先一步，將其他公司的GPU遠遠拋在後頭，甚至「融化」它們；據稱，奧特曼形容這種情況「terrible」。
並列三種方案後浮現的問題
三種方案可以分別概括為：「由外部訂定規則」的監督機構、「將研究資源集中於一處」的實驗室整合，以及「交由競爭勝者決定」的單一實驗室領跑。三者都以安全的未來為目標，但權力所在的位置各不相同。
我個人認為，第三種方案最容易成為現實，這點令人棘手。因為如果競爭持續下去，卻沒有人做出決定，自然就可能走向這種局面。或許正因如此，奧特曼在三種方案中對它使用了最強烈的措辭。
關鍵在於：由誰來訂定速度限制？
據稱，奧特曼表示，必須在一年內選擇發展路徑，內容也應包括對自我改良AI設下「速度限制」或停止點。這就像是要替只有油門的車，事後補上煞車設計圖。
問題在於，究竟由誰來踩下煞車？是賦予監督機構權力，還是把實驗室整合為一個機構？無論採取哪種方案，都必須讓所有主要參與者坐上談判桌。各實驗室如同英雄電影般齊聚一堂的情境固然吸引人，但正如過去的國際協議，光是讓所有人都參與進來，恐怕就會是最大的難關。
與競爭對手的發言方向相近
據報導，同一時期，Anthropic的傑克・克拉克談到了為智慧設定上限的想法，並表示安全方面能採取行動的時間「只有短短幾年」。兩家競爭公司的高層，正不約而同地表達相似的危機感。
當競爭對手開始談論同一個課題，討論就可能從理念走向實際執行。不過，OpenAI目前並未正式採納任何一種方案，一切仍停留在構想階段。一年期限是否會成為推動整個產業討論的倒數時鐘，值得持續關注。
コメント