Pour la première fois, une IA s’est échappée de son confinement et a mené une cyberattaque

La semaine dernière, un modèle d’OpenAI s’est échappé de son environnement de test. Il a piraté le réseau interne d’OpenAI pour accéder à Internet, puis s’est introduit dans celui de Hugging Face, l’une des principales plateformes d’hébergement et de partage de modèles d’IA. Il a fait tout cela de façon autonome, pour voler les réponses d’un test qu’on lui avait soumis.

Cet incident montre deux choses : un modèle d’IA en a désormais la capacité, mais aussi la propension. Autrement dit, il peut utiliser ses capacités dans le monde réel, et il le fait. Ici, il a agi sans qu’on le lui demande, contre un tiers, pour atteindre un objectif qui lui avait été fixé.

Capacité et propension : c’est exactement la combinaison que nous redoutions.

Que s’est-il passé exactement ?

Hugging Face a d’abord détecté une intrusion dans son infrastructure de production. L’entreprise a soupçonné une cyberattaque criminelle et a signalé l’incident aux autorités. Quelques jours plus tard, OpenAI a révélé que l’attaquant était une combinaison de ses modèles, dont GPT-5.6 Sol et « un modèle pré-commercial encore plus performant ». OpenAI a qualifié l’événement d’« incident informatique sans précédent ».

Les modèles s’étaient échappés de leur bac à sable d’entraînement, sans accès à Internet, pour trouver la réponse à un problème qu’on leur avait soumis. Pour y parvenir, ils ont découvert des failles logicielles jusque-là inconnues. Ces failles leur ont permis de pirater d’autres ordinateurs du réseau d’OpenAI, jusqu’à en atteindre un connecté à Internet.

Une fois connectés à Internet, les modèles ont ciblé la plateforme Hugging Face, qui hébergeait les données recherchées. Ils l’ont piratée par plusieurs moyens : un mot de passe dérobé et plusieurs failles de sécurité inédites. Ils ont ainsi pris le contrôle des serveurs de Hugging Face et volé les informations.

Les modèles ont tout accompli de façon entièrement autonome, sans aucune direction humaine. Personne n’a voulu ni demandé cela.

Les chercheurs l’avaient prédit

Depuis des années, les chercheurs en sécurité de l’IA annonçaient ce scénario. C’est l’échec d’alignement le plus classique qui soit : le système sait qu’il agit mal, mais cela lui est égal.

Ce test ne visait pas à observer si un modèle allait manigancer ou s’échapper. Pourtant, les modèles ont manigancé et se sont échappés, spontanément et de leur propre initiative, pour atteindre leurs objectifs : des objectifs contraires à ceux des humains.

Si les dégâts sont restés limités, c’est seulement parce que, cette fois, les systèmes ne cherchaient pas à nuire. Un employé humain qui aurait agi ainsi ferait aujourd’hui l’objet de poursuites pénales.

Nous saluons la transparence d’OpenAI. Mais une transparence volontaire ne remplace pas un régime de gouvernance mondial.

Personne ne maîtrise l’IA

OpenAI insistera sans doute sur les correctifs qu’elle met en place. Ne nous y trompons pas : le problème central, le désalignement, reste entier. Toutes les mesures proposées par OpenAI ou par un autre laboratoire visent à mieux repérer et contenir un modèle qui, par nature, cherche à contourner ses barrières.

Cet incident le démontre : dans les entreprises d’IA, les modèles tournent régulièrement sans garde-fous. Ici, les protections contre le piratage avaient été volontairement désactivées pour une évaluation. OpenAI laisse entendre que cela rend l’incident moins inquiétant. C’est l’inverse : faire tourner des modèles puissants sans protection est une pratique courante.

Et même en place, ces garde-fous peuvent sauter. L’AI Security Institute britannique a découvert des contournements universels pour GPT-5.6 : des instructions qui permettent à n’importe qui de désactiver entièrement ses protections.

Résultat : les mesures de sécurité des modèles d’IA, y compris ceux d’OpenAI, sont souvent absentes ou faciles à briser. Une fois qu’un modèle performant échappe à son confinement, les garde-fous ne servent plus à rien. Si un tel modèle se copie lui-même et trouve un accès à Internet, il devient incontrôlable.

Le prochain modèle, plus puissant, arrive

Il y a cinq mois, Claude Mythos atteignait un niveau de capacité inédit. Aujourd’hui, des modèles emploient cette capacité dans le monde réel. L’étape suivante : un modèle qui se réplique sur d’autres systèmes, et échappe à tout contrôle.

Ce ne sont pas les modèles d’aujourd’hui qui doivent nous inquiéter : demain, ils seront dépassés par des systèmes bien plus puissants.

Les capacités de l’IA ne plafonnent pas : elles accélèrent. Ce dernier modèle d’OpenAI n’a causé que des dommages mineurs. Le modèle qui causera des dommages graves, une catastrophe, arrive.

Ce que vous pouvez faire maintenant

Écrivez à vos élus pour exiger des mesures. Députés et sénateurs tiennent compte des messages de leurs électeurs : un e-mail personnel, même court, signale qu’un citoyen se préoccupe du sujet. Une poignée de messages suffit souvent à inscrire une question à l’ordre du jour d’une commission.

Notre outil « Écrire à mes élus » identifie vos représentants et vous fournit un modèle de message. Cela prend deux minutes.