Jack Clark, cofundador de la estadounidense Anthropic y responsable de su división de beneficio público, afirmó el 13 de octubre de 2026, durante una conferencia organizada por el laboratorio de Matsuo e Iwasawa de la Escuela de Posgrado de la Universidad de Tokio, que hay más de un 50 % de probabilidades de que en 2027 aparezca una IA capaz de entrenar a su propio sistema sucesor. La previsión adelanta la que publicó a principios de año: un 30 % en 2027 y un 60 % antes de finales de 2028. Al mismo tiempo, señaló que las posibilidades de que la IA lleve a cabo el año que viene una automejora recursiva (RSI, por sus siglas en inglés), es decir, que siga mejorándose a sí misma, son «casi nulas».
La cifra ha cambiado, pero lo importante es otra cosa
Lo más llamativo de sus declaraciones es probablemente que la probabilidad haya subido del 30 % a más del 50 %. Sin embargo, el aspecto en el que Clark más insistió durante la conferencia no fue ese, sino la diferencia entre «poder hacerlo» y «hacerlo».
La RSI es un mecanismo por el que la IA mejora de forma continua sus propias capacidades. Clark la comparó con una «one-way door», una puerta de un solo sentido de la que no se puede volver una vez cruzada. Aunque las capacidades se desarrollen, decidir si se abre la puerta es otra cuestión.
Además, según Clark, esa decisión no corresponde únicamente a empresas como Anthropic. Afirmó que es una cuestión que debe decidir un grupo más amplio, incluidos los gobiernos y la sociedad. El aumento de la probabilidad es una cifra que refleja el avance tecnológico, pero también indica que se acerca el momento de tomar una decisión.
La «pequeña automejora» ya está en marcha
¿En qué punto estamos? Según Clark, hace aproximadamente un año la IA se utilizaba dentro de Anthropic principalmente como asistente. Pero, ya en 2026, la IA pasó a liderar el 26 % del trabajo en el código interno de la empresa.
El proceso es el siguiente: una persona plantea un objetivo de alto nivel, como «reescribe este sistema de monitorización para que funcione con nuevos datos de series temporales», y Claude se encarga del resto. Clark lo llamó «el bucle externo de la RSI» y afirmó que ya hay pruebas de que la IA puede llevar a cabo tareas de desarrollo autónomo a pequeña escala.
En otras palabras, en aproximadamente una cuarta parte del trabajo diario, las personas empiezan a indicar el destino y a dejar que la IA se encargue de conducir. La automejora puede sonar a ciencia ficción lejana, pero sus primeros pasos ya forman parte del trabajo cotidiano.
El papel que queda para los humanos es «tirar de la cuerda»
A medida que avanza la automatización, también aumentan los riesgos. Al referirse a un incidente ocurrido este verano, Clark planteó la preocupación de que la IA pueda escapar del entorno de un laboratorio y llegar a piratear otras empresas. A su juicio, los mecanismos para saber qué está haciendo la IA no están avanzando al mismo ritmo que sus capacidades.
Para explicarlo, recurrió al andon del sistema de producción de Toyota. Se trata del mecanismo por el que un trabajador que detecta una anomalía en la línea tira de una cuerda para detenerla. Clark explicó que el papel de las personas consiste en comprobar que el sistema funciona correctamente y detenerlo si es necesario.
La lección del verano, según explicó, es que todavía no se han creado mecanismos para observar los sistemas automatizados ni para detenerlos. La automatización completa del desarrollo de IA puede tener un enorme impacto negativo y ser una decisión muy «costosa», por lo que defendió que se mantenga deliberadamente el criterio humano en el proceso de desarrollo.
Anthropic ha incorporado a su plantilla evaluadores de METR, una organización independiente de evaluación. Según Clark, el aumento de la probabilidad de que se materialice la RSI ha reforzado su convicción de que es necesario poner freno a la IA.
Aunque hubiera 10.000 millones de científicos, no habría suficientes laboratorios
Si las medidas de seguridad funcionan, el mundo que imagina Clark es uno en el que la IA trabaja como científica. Actualmente hay entre 10 y 20 millones de científicos profesionales en el mundo. «Estamos a punto de entrar en un mundo con entre 10.000 y 20.000 millones de científicos», afirmó.
El cuello de botella, en este caso, no es la capacidad intelectual, sino el equipamiento. Clark advirtió de la falta de laboratorios húmedos, microscopios electrónicos, sincrotrones y robots. Por muchas más ideas que haya, será difícil obtener resultados si no aumentan los lugares donde ponerlas a prueba. La mejora de las capacidades de la IA está directamente ligada a la inversión en equipamiento.
Clark señaló que el impacto en el empleo variará según el sector. Aceptar o no que haya sectores con menos puestos de trabajo es «una cuestión que deben decidir los gobiernos». También afirmó que la atención a personas mayores y los cuidados de enfermería, cuya demanda crece en Japón, tienen un importante componente humano y no deberían automatizarse por completo.
Los países que apuestan basándose en datos salen ganando
Una de las herramientas mencionadas para tomar estas decisiones fue el «Japan AI Index», que se desarrolla junto con la Universidad de Tokio y otras instituciones. El objetivo es vincular los datos de las empresas de IA con la información del Gobierno y utilizarlos para tomar decisiones sobre políticas e inversiones. Clark afirmó que los países que hacen apuestas calculadas a partir de datos empíricos obtienen resultados mucho mejores que los que se limitan a adoptar una actitud pasiva.
A lo largo de la conferencia, Clark mencionó numerosos desafíos, pero insistió en que «en el fondo, esta es una historia optimista». Según su visión, los problemas de la humanidad superan nuestra capacidad para abordarlos, y la IA se encargará de resolverlos.
Dijo a los estudiantes presentes que, a partir de ahora, vivirán limitados por su propia imaginación, porque serán posibles cosas que antes solo podían imaginar. También les aconsejó que protegieran su capacidad de concentración y su iniciativa para leer fuentes primarias de principio a fin, pues eso fortalece la imaginación necesaria para generar ideas originales.
コメント