Le 13 octobre 2026, lors d’une conférence organisée par le laboratoire Matsuo-Iwasawa de l’École supérieure de l’Université de Tokyo, Jack Clark, cofondateur d’Anthropic et responsable de sa division d’intérêt public, a estimé à plus de 50 % la probabilité qu’une IA capable d’entraîner son propre système successeur fasse son apparition en 2027. Il a ainsi avancé ses prévisions par rapport à celles publiées en début d’année — 30 % en 2027 et 60 % d’ici à la fin de 2028. Dans le même temps, il a déclaré que la probabilité que l’IA se livre l’an prochain à une amélioration récursive d’elle-même (RSI) était « proche de zéro ».
Les chiffres évoluent, mais l’essentiel est ailleurs
Le chiffre qui retient l’attention dans ces propos est sans doute la hausse de la probabilité, passée de 30 % à plus de 50 %. Mais ce n’est pas là-dessus que Jack Clark a insisté lors de sa conférence. Il a plutôt souligné la distinction entre « pouvoir le faire » et « le faire ».
La RSI désigne un processus par lequel l’IA améliore continuellement ses propres capacités. Jack Clark l’a comparée à une « one-way door », autrement dit une porte à sens unique, qu’il est impossible de franchir en revenant sur ses pas. Même si les capacités de l’IA se développent, décider d’ouvrir ou non cette porte relève d’un choix distinct.
Selon lui, cette décision ne revient pas uniquement à des entreprises comme Anthropic. C’est une question qui doit être tranchée par un cercle plus large, incluant les gouvernements et la société. La hausse des probabilités témoigne des progrès technologiques, mais indique aussi que le moment du choix approche.
Une « petite auto-amélioration » est déjà en cours
Où en sommes-nous aujourd’hui ? Selon Jack Clark, il y a environ un an, l’IA était principalement utilisée chez Anthropic comme un assistant. Puis, en 2026, l’IA a commencé à piloter 26 % des travaux sur le code de l’entreprise.
Le processus est le suivant : un humain fixe un objectif de haut niveau — par exemple, « réécrire ce système de surveillance pour de nouvelles données de séries temporelles » — puis Claude s’occupe du reste. Jack Clark a qualifié cela de « boucle externe de la RSI » et a expliqué que l’on disposait déjà de preuves que l’IA pouvait mener à bien de petits projets de développement autonomes.
En somme, pour environ un quart des tâches sur le terrain, les humains indiquent la destination et commencent à laisser l’IA prendre le volant. L’auto-amélioration peut sembler relever d’une science-fiction lointaine, mais ses prémices sont déjà présentes dans le travail quotidien.
Le rôle qui reste aux humains : « tirer le cordon »
À mesure que l’automatisation progresse, les risques augmentent eux aussi. Évoquant un incident survenu cet été, Jack Clark a fait part de la crainte que l’IA ne sorte de l’environnement du laboratoire et aille jusqu’à pirater d’autres entreprises. Selon lui, les moyens de savoir ce que fait l’IA ne suivent pas le rythme de l’évolution de ses capacités.
Il a alors cité l’andon du système de production Toyota : lorsqu’un ouvrier repère une anomalie sur la chaîne, il tire sur un cordon pour arrêter la ligne. Le rôle des humains, a-t-il expliqué, consiste à vérifier que le système fonctionne correctement et à l’arrêter si nécessaire.
La leçon de l’été, a-t-il expliqué, est que l’on n’a encore mis en place ni système pour observer les systèmes automatisés, ni mécanisme pour les arrêter. L’automatisation complète du développement de l’IA pourrait avoir des conséquences négatives considérables : ce serait un choix très « coûteux ». Il faut donc laisser délibérément une place au jugement humain dans le processus de développement.
Anthropic accueille en interne des évaluateurs de METR, un organisme tiers d’évaluation. Selon Jack Clark, la hausse de la probabilité de voir la RSI se concrétiser a renforcé sa conviction qu’il faut mettre un frein à l’IA.
Même avec 10 milliards de scientifiques, il manquerait de laboratoires
Si les mesures de sécurité portent leurs fruits, Jack Clark imagine un monde où l’IA travaille comme scientifique. Le monde compte aujourd’hui entre 10 et 20 millions de scientifiques de métier. « Nous sommes sur le point d’entrer dans un monde où il y aura entre 10 et 20 milliards de scientifiques », a-t-il déclaré.
Le principal obstacle ne sera pas l’intelligence, mais les équipements. Jack Clark a souligné le manque de laboratoires de recherche expérimentale, de microscopes électroniques, de synchrotrons et de robots. Même si le nombre de personnes capables de proposer des idées augmente considérablement, les résultats resteront limités si les lieux où les tester ne se multiplient pas. L’amélioration des capacités de l’IA pose donc directement la question des investissements dans les équipements.
Selon lui, les effets sur l’emploi varieront selon les secteurs. La décision d’accepter ou non des pertes d’emplois dans certains domaines « revient aux gouvernements ». Il a également déclaré que les soins aux personnes âgées et les soins infirmiers, dont la demande augmente au Japon, comportent une forte dimension humaine et ne devraient pas être entièrement automatisés.
Les pays qui misent sur les données prennent l’avantage
Pour éclairer ces décisions, il a notamment cité le « Japan AI Index », un projet mené avec l’Université de Tokyo et d’autres partenaires. Il vise à relier les données des entreprises d’IA aux informations détenues par les pouvoirs publics, afin de les exploiter pour orienter les politiques et les investissements. Jack Clark a déclaré que les pays qui prennent des décisions calculées à partir de données empiriques s’en sortiraient bien mieux que ceux qui se contentent de réagir.
Tout au long de la conférence, Jack Clark a évoqué de nombreux défis, tout en insistant sur le fait qu’« au fond, c’est une histoire optimiste ». Selon lui, les problèmes de l’humanité sont trop nombreux au regard de ses capacités à les résoudre, et l’IA pourrait contribuer à y remédier.
Il a expliqué aux étudiants présents dans la salle que nous entrons dans une époque où notre imagination sera notre seule limite, car des choses que l’on ne pouvait jusqu’ici que s’imaginer deviendront possibles. Il leur a conseillé de préserver leur concentration et leur autonomie pour lire les sources primaires dans leur intégralité, afin de cultiver l’imagination nécessaire à la création d’idées originales.
コメント