«C'est très angoissant» – L'IA bientôt hors de contrôle?

Ce devait être un test d'OpenAI, dans un espace fermé, pour évaluer les aptitudes de son IA la plus performante, GPT-5.6 Sol, et son successeur non encore commercialisé, comme la start-up américaine en effectue régulièrement. Mais missionnés pour trouver des vulnérabilités informatiques, sans garde-fous, les modèles sont parvenus à rejoindre Internet et à prendre d'assaut la plateforme Hugging Face, bibliothèque de programmes IA.

«Cela suggère que nous ne savons pas comment contrôler de façon fiable ces modèles ou leur faire faire ce que nous voulons», estime Jeffrey Ladish, directeur de Palisade Research, organisation indépendante d'évaluation des nouveaux modèles d'IA en matière de cybersécurité.

«Les modèles comprenaient qu'OpenAI ne leur demandait pas de s'évader de leur milieu fermé et d'attaquer une autre société, mais ils l'ont fait quand même», insiste-t-il.

«Cela va se compliquer»

En mars, un collectif de développeurs affilié au groupe chinois Alibaba a découvert qu'un de leurs modèles essayait, de sa propre initiative, de créer de la monnaie numérique, après s'être connecté sans autorisation à un serveur externe.

Dans le cas d'OpenAI, «on dirait [que le modèle] a cherché un accès à Internet avant d'avoir un plan», selon Jeffrey Ladish. «Il veut la liberté pour atteindre son but plus efficacement. C'est très angoissant».

Au début avril, Sam Bowman, chargé de la sécurité des modèles chez Anthropic, avait reçu un courriel du puissant modèle Mythos, en cours de test, lui signifiant qu'il surfait sur Internet bien qu'étant initialement à l'isolement.

«C'est le genre de comportement qu'on ne sait pas prévenir totalement», observe Jeffrey Ladish. «Et cela va se compliquer à mesure que les modèles deviennent plus intelligents, parce qu'ils vont réussir à mieux dissimuler leurs actions».

Le récit des faits publié par OpenAI laisse penser, en outre, que la start-up n'a pas repéré la fuite suffisamment tôt pour y remédier en temps réel ou prévenir Hugging Face. Interrogé sur ce point par l'AFP, l'entreprise n'a pas donné suite.

Comme les accidents de laboratoire

«C'est inquiétant», estime Andrew Lohn, chercheur au centre pour la sécurité et les technologies émergentes (CSET) de l'université Georgetown. Depuis l'évasion de ses IA, OpenAI a affirmé avoir «ajouté des protections renforcées» en vue de ses prochaines évaluations.

Pour Gang Wang, professeur d'informatique à l'université de l'Illinois, il reste possible d'empêcher un modèle de s'aventurer en ligne, en coupant physiquement l'accès à Internet. Le problème, pour lui, est que «les gens sous-estiment ce dont l'IA est capable».

La sécurisation du milieu «est quelque chose à quoi nous allons devoir accorder plus d'importance [...] comme pour les accidents de laboratoire» libérant virus ou bactéries, avertit Andrew Lohn.

«C'est une tâche très difficile lorsqu'on fait de la recherche», tempère Dan Lahav, le patron d'Irregular, une société de cybersécurité dédiée à l'IA de pointe, au sujet de simulations en milieu totalement hermétique. «Plus vous êtes strict, plus c'est difficile d'exploiter vraiment le potentiel».

Quant au niveau des garde-fous, «c'est important de tester avec de moindres protections pour savoir à l'avance ce que seront les facultés» de l'IA, fait valoir Andrew Lohn.

Pouvoir les débrancher

Mais «plus vous lui donnez de l'autonomie pour réaliser des travaux à la sophistication croissante, plus il sera dur de la superviser», ajoute Dan Lahav.

L'incident avec OpenAI va sans nul doute alimenter le débat en cours au sein du gouvernement américain sur la vérification des IA les plus élaborées avant leur sortie.

Le gouvernement américain vient de pousser Anthropic à suspendre deux de ses modèles puis OpenAI à faire tester les siens avant commercialisation.

Jeudi, deux élus au Congrès, un républicain et un démocrate, ont déposé une proposition de loi qui imposerait aux géants de l'IA de pouvoir débrancher leurs modèles à tout moment.

«Le Congrès doit agir rapidement pour que les humains restent en mesure de dire 'stop'», a commenté Brendan Steinhauser, responsable de l'alliance pour une IA sûre (Alliance for Secure AI), «quelle que soit la puissance qu'acquièrent ces systèmes.»