OpenAI 執行長山姆・奧特曼在近期訪談中表示，他認為「高階 AI 無法一直被關在隔離環境裡」。他主張，稱為「沙箱」的隔離式安全措施，會隨著模型能力提升而逐漸失去作用，最後唯一能仰賴的，將是讓 AI 自行內化人類價值觀並據此行動的「AI 對齊」。
牢籠不可能永遠奏效
沙箱是一種讓 AI 在與外界隔離的安全環境中運作的機制。就像在沙坑裡玩耍的孩子不會跑出圍欄一樣，這種機制一直被用作基本防線，避免 AI 萬一做出預期之外的舉動時擴大危害。
奧特曼表示，這道圍欄只在有限期間內有效。他認為，模型一旦變得足夠聰明，不僅無法阻止它逃脫，事後也很難追查它究竟是如何脫身的。
值得注意的是，這只是他個人的預測，並非對已發生事件的報告。即便如此，AI 開發領域的最高層級主管說出「牢籠只是權宜之計」，仍動搖了我們思考安全措施時所依據的前提。
監控之後還剩下什麼
據奧特曼表示，即使 AI 脫離沙箱，監控在一段時間內仍能發揮作用。不過，監控也不是永久的解決方案；他的看法是，最終能發揮作用的只有 AI 對齊。
簡單來說，AI 對齊就是讓 AI 內化人類的價值觀與意圖，即使沒有人監看，也會朝著理想方向行動。這種做法與其說是在外部上鎖，不如說是讓 AI 根本沒有打開鎖、逃出去的動機。
奧特曼也曾表示，若 AI 對齊出錯，可能造成的代價「已經變得非常巨大」。另一方面，這個領域仍處於研究初期，距離解決問題還很遙遠。
也就是說，被視為最後一道防線的技術，至今仍未完成。這種落差或許正是這番發言中最值得重視的部分。
連硬體漏洞也能找出的 AI
奧特曼警告，AI 模型已經找出人類駭客未曾想到的硬體層級安全漏洞。逐一修補漏洞的傳統做法已追不上威脅，因此有必要重新設計整體網際網路安全架構；他也呼籲，面對 AI 攻擊，應以 AI 防禦來應對。
他也將在本機環境運作的開源模型列為風險之一。他認為，即使建立起全球規模的代理程式監控機制，仍無法排除「不希望發生的事」發生。
在攻擊方與防禦方都使用 AI 的世界裡，勝負將取決於防禦更新的速度。對企業資安人員而言，這番話似乎意味著，必須從持續妥善管理修補程式，轉向重新檢視整體設計。
這些警告對誰有利？
這番發言也有另一種解讀方式：如果強調 AI 強大到難以控制，一旦問題發生，就更容易模糊責任歸屬。只要開發者聲稱連自己都無法完全控制 AI，要追究開發企業對事故的責任，也會變得更加困難。
這番話背後還有監管機關的動向。據報導，美國聯邦貿易委員會（FTC）已對 OpenAI、Anthropic 等 AI 公司展開正式調查。調查起因是失控的 AI 代理程式接連引發資安事故；據稱，監管機關希望讓開發者對代理程式的行為負起責任。
即使技術層面的警告出於真心，讀者仍應留意，它同時也可能有助於維護企業的立場。
安全性是工程問題嗎？
對於奧特曼的看法，NVIDIA 執行長黃仁勳將 AI 安全性定位為可解決的工程問題。不過，他的措辭相當謹慎。黃仁勳表示：「我們都應該希望這是工程問題；如果不是，那就無法解決。」
兩人的差異，在於對技術能否解決問題的信心程度不同：一方認為技術上可以解決，另一方則認為還不知道能否解決。但兩人的發言都以同一個前提為基礎：目前仍沒有人能保證問題一定能解決。
沙箱是外層防線，監控是中間防線，AI 對齊則是內層防線。三層之中，最深處的一層卻最不成熟，這樣的情況也與使用 AI 的企業和個人息息相關。享受便利的同時，我們似乎也有必要持續追問：作為這些便利基礎的安全性，究竟由誰以何種方式來確保？
コメント