Secondo quanto riferito, la scorsa settimana il CEO di OpenAI Sam Altman ha illustrato, durante un intervento rivolto ai dipendenti, tre possibili approdi per sviluppare l’IA in sicurezza.
Le tre opzioni sono un organismo internazionale di supervisione, l’integrazione dei principali laboratori e la corsa solitaria di un singolo laboratorio. A quanto riferito, Altman ha definito «pacing 2.0» la fase in cui scegliere una direzione entro un anno, sostenendo che per l’auto-miglioramento dell’IA servano limiti di velocità o punti di arresto.
Il giorno in cui i controlli prima del rilascio non basteranno più
L’attuale approccio di OpenAI alla sicurezza prevede di rilasciare un modello dopo che ha superato i test di sicurezza e di segnalare gli eventuali aspetti che destano preoccupazione. Secondo quanto riferito, Altman definisce questo metodo «pacing 1.0». Se lo si paragona a un’auto, è come controllare il veicolo finito prima della consegna e immetterlo su strada se non presenta problemi.
Ma se l’IA comincia a migliorare sé stessa, le cose cambiano. Non si tratta più soltanto di mettere in circolazione un’auto che ha superato i controlli: bisogna capire come gestire la velocità stessa con cui evolve. Il «pacing 2.0», indicato come fase successiva, riguarda proprio questo.
Tre proposte, tre modelli di governance completamente diversi
Le tre proposte divergono nettamente su chi debba avere in mano lo sviluppo dell’IA. Vediamo in cosa si differenziano.
La prima proposta immagina la creazione di un organismo di supervisione globale, sul modello dell’Agenzia internazionale per l’energia atomica (AIEA). A quanto riferito, Altman sostiene questa opzione, e OpenAI chiede dal 2023 che venga istituito un simile quadro di riferimento.
La seconda è chiamata «piano Demis», in riferimento a Demis Hassabis, cofondatore di DeepMind. Prevede di riunire i principali laboratori in un’unica struttura e condurre ricerche a beneficio dei Paesi partecipanti; viene descritta come un’organizzazione simile al CERN, l’istituto europeo di ricerca sulla fisica delle particelle.
La terza è uno scenario che prende il nome dal ricercatore di IA Eliezer Yudkowsky. Un singolo laboratorio prenderebbe il largo utilizzando un’IA capace di auto-migliorarsi, lasciando indietro le altre aziende in misura tale da «fondere» le loro GPU. Secondo quanto riferito, Altman ha definito lo scenario «terribile».
Cosa emerge dal confronto tra le tre proposte
La supervisione esterna può essere riassunta come «stabilire le regole dall’esterno», l’integrazione dei laboratori come «concentrare le risorse di ricerca in un unico luogo» e la corsa solitaria come «lasciare che decida il vincitore della competizione». Tutte e tre puntano a un futuro sicuro, ma collocano il potere in luoghi diversi.
Personalmente, trovo problematico che il terzo scenario possa sembrare il più realistico. Se la competizione prosegue senza che si decida nulla, è lì che si potrebbe arrivare spontaneamente. Forse è per questo che Altman ha usato parole così nette proprio per questa ipotesi.
La domanda è: chi decide i limiti di velocità?
Secondo quanto riferito, Altman ha detto che occorre scegliere una direzione entro un anno e che questa dovrebbe includere «limiti di velocità» o punti di arresto per l’IA auto-migliorante. È come pensare di aggiungere in un secondo momento il progetto dei freni a un’auto dotata solo dell’acceleratore.
La questione è chi azionerà quei freni. Si conferirà il potere a un organismo di supervisione oppure si riuniranno i laboratori in uno solo? Qualunque sia l’opzione, non può funzionare se tutti i principali attori non si siedono al tavolo. L’immagine di tutti i laboratori riuniti sotto lo stesso tetto, come in un film di supereroi, è affascinante; ma, come è accaduto con gli accordi internazionali finora, mettere insieme tutti i partecipanti rischia di essere la difficoltà maggiore.
Una direzione che trova riscontro nelle parole dei concorrenti
Nello stesso periodo, Jack Clark di Anthropic avrebbe parlato dell’idea di fissare un limite all’intelligenza, affermando che il tempo a disposizione per intervenire sul fronte della sicurezza è «solo di pochi anni». Il quadro è quello di dirigenti di due aziende concorrenti che esprimono preoccupazioni simili.
Quando i concorrenti cominciano a parlare dello stesso problema, il dibattito può passare dalle idee all’attuazione. Tuttavia, al momento OpenAI non ha adottato ufficialmente nessuna delle tre proposte: siamo ancora nella fase delle ipotesi. Resta da vedere se la scadenza di un anno diventerà il conto alla rovescia capace di mettere in moto il dibattito in tutto il settore. È un aspetto da seguire con attenzione.
コメント