Lors d’une récente interview, le PDG d’OpenAI, Sam Altman, a estimé qu’« il sera impossible de maintenir les IA avancées dans un environnement isolé ». Selon lui, les mesures de sécurité fondées sur le confinement, dites « sandbox », perdront leur utilité à mesure que les modèles gagneront en capacités. À terme, la seule solution sera l’alignement : faire en sorte que l’IA intègre d’elle-même les valeurs humaines et agisse en conséquence.
« La cage ne tiendra pas éternellement »
Une sandbox est un dispositif qui fait fonctionner une IA dans un environnement sécurisé, coupé du monde extérieur. Comme une clôture qui empêche un enfant de sortir du bac à sable, elle sert de protection élémentaire pour éviter qu’un comportement imprévu de l’IA ne cause des dégâts plus importants.
Selon M. Altman, cette clôture n’est efficace que pendant une période limitée. Une fois que les modèles seront suffisamment intelligents, il sera non seulement impossible d’empêcher leur évasion, mais aussi difficile de retracer après coup la manière dont ils sont sortis, estime-t-il.
Il faut garder à l’esprit qu’il s’agit de sa prévision, et non du compte rendu d’un événement qui se serait déjà produit. Reste que le fait que le patron d’une entreprise d’IA affirme que « la cage n’est qu’une solution temporaire » remet en question les postulats sur lesquels repose la réflexion en matière de sécurité.
Que reste-t-il après la surveillance ?
Selon lui, la surveillance continuera d’être utile pendant un certain temps, même après qu’une IA aura franchi la sandbox. Mais elle ne constitue pas non plus une solution durable : à terme, seul l’alignement pourrait fonctionner, estime-t-il.
En termes simples, l’alignement consiste à faire en sorte que l’IA intériorise les valeurs et les intentions humaines, et adopte le comportement souhaité même lorsque personne ne la surveille. Plutôt que de verrouiller l’accès de l’extérieur, il s’agirait de faire en sorte qu’elle n’ait tout simplement aucune raison d’ouvrir la porte pour sortir.
M. Altman a également déclaré, en substance, que « le coût potentiel d’un défaut d’alignement est devenu extrêmement élevé ». Le domaine n’en est toutefois qu’à ses débuts et reste loin d’avoir résolu le problème.
Autrement dit, la technologie présentée comme le dernier recours n’est pas encore au point. C’est sans doute le décalage qu’il convient de prendre le plus au sérieux dans ces déclarations.
Des IA qui détectent aussi les failles matérielles
M. Altman a averti que les modèles d’IA repéraient déjà des failles de sécurité au niveau matériel auxquelles les pirates humains n’avaient pas pensé. Selon lui, les méthodes traditionnelles, qui consistent à corriger les vulnérabilités une par une, ne suffiront pas : il faut repenser l’architecture de sécurité d’Internet dans son ensemble et se préparer aux attaques menées par l’IA en recourant à des défenses elles aussi fondées sur l’IA.
Il a également cité parmi les risques les modèles open source exécutés en local. Même si l’on mettait en place un système de surveillance des agents à l’échelle mondiale, il resterait possible que se produise « quelque chose qu’on ne voulait pas voir arriver », estime-t-il.
Dans un monde où attaquants comme défenseurs utilisent l’IA, l’issue dépendra de la vitesse à laquelle les défenses pourront être mises à jour. Pour les responsables de la sécurité des entreprises, cela pourrait imposer de passer d’une gestion rigoureuse des correctifs à une remise en question de la conception même des systèmes.
À qui profite cet avertissement ?
Ces déclarations peuvent aussi être interprétées autrement. Certains estiment que présenter l’IA comme si puissante qu’elle échappe au contrôle pourrait brouiller la question des responsabilités en cas de problème. Si même les entreprises qui la développent affirment ne pas pouvoir la contrôler complètement, il devient plus difficile de leur imputer la responsabilité d’un incident.
Cette question s’inscrit dans un contexte de mesures prises par les autorités de régulation. Selon des informations, la Commission fédérale du commerce américaine (FTC) a ouvert une enquête officielle visant des entreprises d’IA comme OpenAI et Anthropic. Elle aurait été déclenchée par une série d’incidents de cybersécurité causés par des agents d’IA incontrôlables. Les autorités chercheraient à tenir les développeurs responsables du comportement de leurs agents.
Même si ces avertissements techniques sont sincères, il convient de garder à l’esprit qu’ils peuvent aussi contribuer à protéger les intérêts des entreprises.
La sécurité est-elle un problème d’ingénierie ?
Face à l’analyse de M. Altman, le PDG de NVIDIA, Jensen Huang, présente la sécurité de l’IA comme un problème d’ingénierie susceptible d’être résolu. Il s’est toutefois exprimé avec prudence. Il a déclaré, en substance : « Nous devrions tous espérer qu’il s’agit d’un problème d’ingénierie. Si ce n’est pas le cas, nous ne pourrons pas le résoudre. »
La différence entre les deux hommes tient à leur degré de confiance dans la possibilité de résoudre le problème par des moyens techniques. Mais leurs propos ont un point commun : rien ne garantit encore qu’une solution puisse être trouvée.
La protection extérieure du sandbox, la protection intermédiaire de la surveillance et la protection intérieure de l’alignement : dans ce dispositif à trois niveaux, la couche la plus profonde est aussi la moins mature. La question concerne directement les entreprises et les particuliers qui utilisent l’IA. Plus nous profitons de ses avantages, plus nous devons nous demander concrètement qui garantit la sécurité sur laquelle elle repose, et de quelle manière.
コメント