In una recente intervista, il CEO di OpenAI Sam Altman ha affermato che «non si può continuare a tenere confinata un’IA avanzata in un ambiente isolato». Secondo la sua tesi, le misure di sicurezza basate sull’isolamento, chiamate sandbox, perderanno la loro efficacia man mano che i modelli diventeranno più capaci; alla fine, l’unica cosa su cui si potrà contare sarà l’allineamento, cioè la capacità dell’IA di interiorizzare i valori umani e agire di conseguenza.
Le gabbie non durano per sempre
Una sandbox è un sistema che fa funzionare l’IA in un ambiente sicuro, isolato dall’esterno. Come una recinzione che impedisce ai bambini di uscire dal recinto di sabbia in cui giocano, è stata usata come misura di difesa fondamentale per evitare che un comportamento imprevisto dell’IA provochi danni più estesi.
Altman ha spiegato che questa recinzione è efficace solo per un periodo limitato. Secondo la sua valutazione, quando un modello diventa abbastanza intelligente non è più possibile impedirgli di evadere e può diventare difficile anche ricostruire in seguito come sia riuscito a farlo.
È importante ricordare che si tratta di una previsione personale, non del resoconto di un fatto già accaduto. Eppure, il fatto che il vertice di un’azienda che sviluppa IA abbia detto che «la gabbia è solo una soluzione temporanea» mette in discussione le premesse su cui si basano le misure di sicurezza.
Cosa resta dopo il monitoraggio
Secondo Altman, anche dopo che l’IA è riuscita a uscire dalla sandbox, il monitoraggio può essere utile ancora per un po’. Ma non è una soluzione permanente: in ultima analisi, l’unica cosa che può funzionare è l’allineamento.
In parole semplici, l’allineamento consiste nel fare in modo che l’IA interiorizzi i valori e le intenzioni umani e agisca nella direzione desiderata anche quando nessuno la osserva. Più che chiudere la porta dall’esterno, l’approccio mira a evitare che l’IA abbia motivo di aprirla e uscire.
Altman ha anche affermato, in sostanza, che «i costi di un eventuale allineamento errato sono diventati molto elevati». Al tempo stesso, questo campo è ancora agli inizi della ricerca e la soluzione resta lontana.
In altre parole, la tecnologia considerata l’ultima risorsa non è ancora pronta. È proprio questo divario, forse, l’aspetto da prendere più sul serio nelle dichiarazioni di Altman.
Un’IA capace di trovare persino falle nell’hardware
Altman ha lanciato l’allarme: i modelli di IA stanno già individuando vulnerabilità di sicurezza a livello hardware che gli hacker umani non avevano immaginato. Poiché il metodo tradizionale, che consiste nel correggere le vulnerabilità una per una, non riesce a tenere il passo, sostiene che sia necessario ripensare da cima a fondo la sicurezza di Internet e prepararsi agli attacchi basati sull’IA con difese a loro volta basate sull’IA.
Ha citato tra i rischi anche i modelli open source eseguiti in locale. Anche predisponendo un sistema di monitoraggio degli agenti su scala globale, secondo lui resta sempre la possibilità che accada «qualcosa che non avremmo voluto».
In un mondo in cui sia gli attaccanti sia chi si difende usano l’IA, a fare la differenza sarà la rapidità con cui si aggiornano le difese. Per i responsabili della sicurezza aziendale, queste parole sembrano imporre un passaggio da una gestione scrupolosa delle patch a un approccio che riconsideri la progettazione stessa.
A chi giova l’allarme?
Le dichiarazioni di Altman si prestano anche a un’altra lettura. Sottolineare che l’IA è così potente da risultare incontrollabile può rendere meno chiaro chi debba rispondere delle conseguenze quando qualcosa va storto. Se si afferma che nemmeno gli sviluppatori riescono a controllarla del tutto, diventa più difficile discutere di come attribuire alle aziende che la sviluppano la responsabilità degli incidenti.
Sul fondo ci sono le iniziative delle autorità di regolamentazione. Secondo quanto riferito, la FTC statunitense (Federal Trade Commission) ha avviato indagini formali sulle aziende di IA, tra cui OpenAI e Anthropic. All’origine ci sarebbero una serie di incidenti di cybersecurity provocati da agenti di IA fuori controllo; secondo quanto riportato, le autorità intendono attribuire agli sviluppatori la responsabilità del comportamento degli agenti.
È bene tenere presente, da lettori, che un allarme tecnico, anche se serio, può allo stesso tempo contribuire a tutelare la posizione dell’azienda.
La sicurezza è un problema di ingegneria?
In risposta alla posizione di Altman, il CEO di NVIDIA Jensen Huang ha definito la sicurezza dell’IA un problema di ingegneria risolvibile. La sua formulazione, tuttavia, è stata prudente. Huang ha detto, in sostanza: «Dovremmo tutti sperare che sia un problema di ingegneria. Se non lo fosse, non potremmo risolverlo».
La differenza tra i due è soprattutto una questione di fiducia: c’è chi ritiene che il problema possa essere risolto tecnicamente e chi non sa se sia possibile farlo. Ma entrambi partono dalla stessa premessa: non c’è ancora alcuna garanzia di trovare una soluzione.
La sandbox come difesa esterna, il monitoraggio come difesa intermedia e l’allineamento come difesa interna. Il fatto che, fra questi tre livelli, quello più profondo sia anche il meno maturo riguarda da vicino sia le aziende sia le persone che usano l’IA. Più ne sfruttiamo i vantaggi, più dovremo continuare a chiederci in prima persona chi garantisce la sicurezza su cui si fonda e in che modo.
コメント