Le PDG d’OpenAI, Sam Altman, aurait présenté la semaine dernière, lors d’une conférence destinée aux employés, trois « scénarios d’aboutissement » pour faire progresser l’IA en toute sécurité.
Les trois options seraient la création d’un organisme international de supervision, la fusion des principaux laboratoires ou la domination d’un laboratoire seul. Altman aurait appelé « pacing 2.0 » la nécessité de choisir une voie d’ici un an, et estimé que l’auto-amélioration de l’IA devait être soumise à des limites de vitesse ou à des points d’arrêt.
Le jour où les contrôles avant lancement ne suffiront plus
Aujourd’hui, les mesures de sécurité d’OpenAI consistent à publier un modèle après sa réussite aux tests de sécurité et à signaler les éventuelles préoccupations à son sujet. Altman qualifierait cette approche de « pacing 1.0 ». Pour reprendre l’image d’une voiture, il s’agirait d’inspecter le véhicule achevé avant sa livraison, puis de le mettre sur la route si aucun problème n’est détecté.
Mais la donne change lorsque l’IA commence à s’améliorer elle-même. Il ne s’agit alors plus simplement de mettre en circulation un véhicule qui a passé les contrôles : il faut aussi se demander comment gérer le rythme même de son évolution. C’est précisément cette question qui se trouve au cœur de l’étape suivante évoquée, le « pacing 2.0 ».
Trois options, trois visions radicalement différentes de la gouvernance
Les trois options se distinguent nettement par la question de savoir qui pilotera le développement de l’IA. Passons en revue leurs différences.
La première consiste à créer un organisme mondial de supervision, à l’image de l’Agence internationale de l’énergie atomique (AIEA). Altman serait favorable à cette option, et OpenAI plaide depuis 2023 en faveur de la nécessité d’un tel cadre.
La deuxième option est appelée « Demis plan », en référence à Demis Hassabis, cofondateur de DeepMind. Elle consisterait à réunir les principaux laboratoires pour mener des recherches au bénéfice des pays participants, dans un modèle présenté comme proche de celui du CERN, l’organisation européenne de recherche en physique des particules.
La troisième option porte le nom du chercheur en IA Eliezer Yudkowsky. Un laboratoire prendrait l’avantage grâce à une IA capable de s’auto-améliorer, au point de « faire fondre » les GPU de ses concurrents. Altman aurait qualifié ce scénario de « terrible ».
Ce que révèle la comparaison des trois options
On peut résumer ces options ainsi : l’organisme de supervision fixerait les règles de l’extérieur, la fusion des laboratoires concentrerait les ressources de recherche en un seul endroit, et la domination d’un laboratoire seul reviendrait à s’en remettre au vainqueur de la compétition. Les trois visent un avenir sûr, mais ne placent pas le pouvoir au même endroit.
À titre personnel, je trouve inquiétant que la troisième option soit la plus susceptible de devenir réalité. Si la compétition se poursuit sans que rien ne soit décidé, c’est là qu’elle risque de mener naturellement. C’est peut-être pour cela qu’Altman a employé les termes les plus forts pour la décrire.
La question : qui fixera les limites de vitesse ?
Altman aurait déclaré qu’il fallait choisir une voie d’ici un an et que celle-ci devrait notamment prévoir des « limites de vitesse » ou des points d’arrêt pour l’IA auto-améliorante. Autrement dit, il s’agirait d’ajouter après coup les plans d’un système de freinage à une voiture qui n’aurait qu’un accélérateur.
Reste à savoir qui actionnera ce frein. Faut-il confier ce pouvoir à un organisme de supervision ou réunir les laboratoires en un seul ? Quelle que soit l’option retenue, elle ne pourra fonctionner sans la participation de tous les acteurs majeurs. L’idée que chaque laboratoire se rassemble sous un même toit, comme dans un film de super-héros, est séduisante. Mais, comme pour les accords internationaux conclus jusqu’ici, réunir tous les participants risque d’être le principal obstacle.
Une orientation qui fait écho aux déclarations d’un concurrent
À la même période, Jack Clark, d’Anthropic, aurait évoqué l’idée de plafonner l’intelligence et déclaré qu’il ne restait que « quelques années » pour agir sur les questions de sécurité. Les dirigeants de deux entreprises concurrentes expriment ainsi des inquiétudes similaires.
Lorsque des concurrents commencent à parler des mêmes enjeux, le débat peut passer des principes à la mise en œuvre. Toutefois, à ce stade, OpenAI n’a officiellement retenu aucune de ces options : il ne s’agit encore que de pistes. La date butoir d’un an deviendra-t-elle le compte à rebours qui fera avancer le débat dans l’ensemble du secteur ? C’est un point à suivre.
コメント