Según se ha informado, el consejero delegado de OpenAI, Sam Altman, habló la semana pasada en una charla dirigida a los empleados sobre tres «destinos finales» para avanzar con seguridad en el desarrollo de la IA.
Las tres opciones son crear un organismo internacional de supervisión, fusionar los principales laboratorios o dejar que un único laboratorio avance en solitario. Según se ha informado, Altman llamó «pacing 2.0» a la etapa de elegir un rumbo en el plazo de un año y dijo que la automejora de la IA necesitará límites de velocidad o puntos de parada.
El día en que las pruebas antes del lanzamiento ya no sean suficientes
Las medidas de seguridad actuales de OpenAI consisten en publicar un modelo cuando supera las pruebas de seguridad y señalar cualquier aspecto que suscite preocupación. Según se ha informado, Altman llama a este enfoque «pacing 1.0». Sería como inspeccionar un coche terminado antes de enviarlo y, si no presenta problemas, ponerlo en circulación.
Pero si la IA empieza a mejorarse a sí misma, la situación cambia. Ya no se trata solo de poner en circulación un coche que ha superado la inspección, sino de decidir cómo gestionar la velocidad a la que evoluciona. La siguiente etapa de la que se ha hablado, «pacing 2.0», aborda precisamente esta cuestión.
Tres propuestas que dibujan modelos de gobernanza muy distintos
Las tres opciones se diferencian claramente en quién tendría el control del desarrollo de la IA. Veamos sus diferencias.
La primera opción consiste en crear un organismo mundial de supervisión, como el Organismo Internacional de Energía Atómica (OIEA). Según se ha informado, Altman apoya esta propuesta y OpenAI lleva defendiendo desde 2023 la necesidad de un marco de este tipo.
La segunda opción se conoce como «Demis plan», en referencia a Demis Hassabis, cofundador de DeepMind. Consistiría en reunir a los principales laboratorios en una sola entidad para investigar en beneficio de los países participantes, en un modelo que se ha comparado con el CERN, el centro europeo de investigación en física de partículas.
El tercer escenario lleva el nombre del investigador de IA Eliezer Yudkowsky. Un solo laboratorio se adelantaría a los demás gracias a una IA capaz de mejorarse a sí misma y los dejaría tan atrás que «fundiría» las GPU de otras empresas. Según se ha informado, Altman calificó esta opción de «terrible».
Qué se ve al comparar las tres propuestas
La opción del organismo de supervisión podría resumirse como «establecer las reglas desde fuera»; la fusión de laboratorios, como «concentrar los recursos de investigación en un solo lugar»; y el liderazgo en solitario, como «dejarlo en manos del ganador de la competición». Las tres aspiran a un futuro seguro, pero sitúan la autoridad en lugares distintos.
Personalmente, me preocupa que la tercera opción sea la que más fácilmente pueda hacerse realidad. Si la competición continúa sin que nadie tome una decisión, ese será el desenlace natural. Quizá por eso Altman empleó el lenguaje más contundente al referirse a ella.
La pregunta es quién fijará los límites de velocidad
Según se ha informado, Altman dijo que es necesario elegir un rumbo en el plazo de un año y que este debería incluir «límites de velocidad» para la IA que se mejora a sí misma, así como puntos de parada. Es como intentar añadir después el diseño de los frenos a un coche que solo tiene acelerador.
La cuestión es quién accionará ese freno. ¿Se otorgará autoridad al organismo de supervisión o se reunirán los laboratorios en una sola entidad? Ninguna de las opciones funcionará si los principales actores no se sientan a la mesa. La imagen de todos los laboratorios reunidos bajo un mismo techo, como en una película de superhéroes, resulta atractiva, pero, como ha ocurrido con anteriores acuerdos internacionales, conseguir que participen todos podría ser el mayor obstáculo.
Una dirección que coincide con las declaraciones de un rival
Por esas mismas fechas, Jack Clark, de Anthropic, habló de la idea de poner un límite a la inteligencia y, según se ha informado, dijo que solo quedan «unos pocos años» para actuar en materia de seguridad. Los directivos de dos empresas rivales expresan así una preocupación en una dirección similar.
Cuando los competidores empiezan a hablar del mismo problema, el debate puede pasar de los principios a la acción. Sin embargo, por ahora OpenAI no ha adoptado oficialmente ninguna de las opciones: siguen siendo propuestas. Habrá que ver si el plazo de un año marca el ritmo del debate en toda la industria.
コメント