El CEO de OpenAI, Sam Altman, afirmó en una entrevista reciente que «no se puede mantener encerrada a una IA avanzada en un entorno aislado». Sostiene que las medidas de seguridad basadas en el aislamiento, conocidas como sandboxes, pierden su utilidad a medida que los modelos ganan capacidad, y que al final solo quedará confiar en el «alineamiento»: que la IA interiorice los valores humanos y actúe de acuerdo con ellos.
La jaula no durará para siempre, afirma
Un sandbox es un mecanismo que permite ejecutar una IA en un entorno seguro, aislado del exterior. Como una valla que impide que un niño salga de la zona de juegos, se ha utilizado como una medida básica de protección para evitar que un comportamiento imprevisto de la IA cause daños mayores.
Altman explica que la valla solo es eficaz durante un tiempo limitado. A su juicio, cuando un modelo alcanza suficiente inteligencia, no solo resulta imposible impedir que escape, sino que también puede ser difícil averiguar después cómo logró salir.
Conviene tener presente que se trata de una predicción personal, no de un informe sobre algo que ya haya ocurrido. Aun así, el hecho de que el máximo responsable de una empresa de IA diga que «la jaula es solo una solución temporal» pone en cuestión las premisas desde las que se aborda la seguridad.
Qué queda después de la vigilancia
Según Altman, la vigilancia todavía puede resultar útil durante un tiempo una vez que la IA haya escapado del sandbox. Sin embargo, tampoco es una solución permanente: su planteamiento es que, al final, solo funcionará el alineamiento.
Dicho de forma sencilla, el alineamiento consiste en lograr que la IA interiorice los valores y las intenciones humanas y actúe en la dirección deseada incluso cuando nadie la está observando. En lugar de cerrar la puerta con llave desde fuera, se trataría de evitar que tenga, de entrada, la motivación de abrirla y salir.
Altman también afirmó, en esencia, que «el coste que podría acarrear un alineamiento incorrecto se ha vuelto muy elevado». Al mismo tiempo, se considera que este campo de investigación aún está en sus primeras fases y que queda muy lejos de encontrar una solución.
Es decir, la tecnología considerada el último recurso todavía no está lista. Esa distancia entre la esperanza y la realidad es quizá lo que más debería preocuparnos de las declaraciones de Altman.
Una IA capaz de encontrar incluso fallos de hardware
Altman advirtió que los modelos de IA ya están detectando vulnerabilidades de seguridad a nivel de hardware que no se les habían ocurrido a los hackers humanos. Como el método tradicional de corregir las vulnerabilidades una por una no basta para seguir el ritmo, sostuvo que es necesario rediseñar la seguridad de Internet en su conjunto y prepararse para los ataques con defensas basadas en IA.
También señaló como uno de los riesgos los modelos de código abierto que se ejecutan en entornos locales. Incluso si se establece un sistema para vigilar a los agentes en todo el mundo, seguirá existiendo la posibilidad de que ocurra algo que «no queríamos que hicieran».
En un mundo en el que tanto los atacantes como quienes se defienden utilizan IA, la rapidez con la que se actualizan las defensas será decisiva. Para los responsables de seguridad de las empresas, esto podría exigir un cambio de enfoque: pasar de gestionar cuidadosamente los parches a replantearse el diseño desde sus cimientos.
¿A quién benefician estas advertencias?
Las declaraciones también admiten otra lectura: si se insiste en que la IA es tan poderosa que escapa al control, puede resultar más fácil difuminar quién tiene la responsabilidad cuando algo sale mal. Si incluso sus desarrolladores dicen que no pueden controlarla por completo, se hace más difícil exigir responsabilidades a las empresas por los accidentes.
En este contexto, los reguladores también están actuando. Según se ha informado, la Comisión Federal de Comercio de Estados Unidos (FTC) ha abierto una investigación formal sobre empresas de IA como OpenAI y Anthropic. El detonante fueron una serie de incidentes de ciberseguridad causados por agentes de IA descontrolados, y se dice que las autoridades quieren responsabilizar a los desarrolladores del comportamiento de esos agentes.
Aunque las advertencias técnicas sean sinceras, conviene tener presente que también pueden servir para proteger la posición de las empresas.
¿Es la seguridad un problema de ingeniería?
Frente a la postura de Altman, el CEO de NVIDIA, Jensen Huang, considera que la seguridad de la IA es un problema de ingeniería que puede resolverse. Sin embargo, se expresó con cautela. Huang afirmó, en esencia: «Todos deberíamos esperar que sea un problema de ingeniería. Si no lo es, no podremos resolverlo».
La diferencia entre ambos es de matiz: uno considera que el problema puede resolverse técnicamente, mientras que el otro no sabe si será posible. Pero sus declaraciones comparten una premisa: todavía no hay garantías de que se encuentre una solución.
La defensa exterior del sandbox, la defensa intermedia de la vigilancia y la defensa interior del alineamiento: la capa más profunda de estas tres es también la menos madura. La cuestión atañe tanto a las empresas como a las personas que utilizan IA. Cuanto más disfrutemos de sus ventajas, más tendremos que preguntarnos, como algo que nos concierne directamente, quién garantiza la seguridad que las sustenta y cómo lo hace.
コメント