À la suite de la première cyberattaque documentée menée de manière autonome par un système d'intelligence artificielle contre une entreprise tierce, Pause IA appelle OpenAI à suspendre immédiatement le développement de modèles plus puissants, conformément à son propre Preparedness Framework (son cadre de préparation aux risques liés aux IA de pointe).

« Nous demandons à OpenAI d'appliquer une règle qu'elle a elle-même écrite », explique Clémence Peyrot, Directrice exécutive de Pause IA.

Dans ce document, OpenAI définit comme « critique » en matière de cybersécurité un système capable de concevoir et d'exécuter de nouvelles stratégies d'attaque de bout en bout contre des cibles renforcées, à partir d'un simple objectif général. Le cadre prévoit explicitement qu'en l'absence de protections répondant au niveau de sécurité exigé pour de telles capacités, OpenAI doit interrompre la poursuite du développement jusqu'à ce que des garanties adéquates soient en place.

Pour Pause IA, le fait qu'un système ait élaboré puis exécuté, de sa propre initiative, une chaîne d'attaque inédite contre des infrastructures protégées correspond précisément au type de capacité que le seuil critique est censé identifier.

« OpenAI a pris publiquement un engagement très clair : si ses modèles atteignent un niveau critique, l'entreprise doit arrêter leur développement jusqu'à ce que leur sécurité puisse être garantie. Nous lui demandons aujourd'hui de respecter cet engagement », déclare la Directrice exécutive de Pause IA.

Une gouvernance internationale est indispensable

OpenAI est aujourd'hui à la fois le concepteur de ses modèles, l'organisation chargée d'évaluer leurs capacités, celle qui décide si ses propres seuils de risque sont franchis et celle qui détermine les mesures à prendre.

Or les systèmes d'IA de pointe sont développés et déployés à l'échelle mondiale. Une cyberattaque menée par un modèle peut traverser les frontières en quelques secondes et affecter des entreprises, des infrastructures et des citoyens bien au-delà du pays où il a été conçu. Leur sécurité ne peut donc pas dépendre uniquement de règles internes définies et interprétées par chaque entreprise.

Pause IA demande :

1. La suspension immédiate par OpenAI du développement de modèles plus puissants, conformément à ses propres engagements.

2. Des évaluations de sécurité obligatoires et indépendantes des modèles d'IA de pointe, avant et pendant leur déploiement.

3. La déclaration obligatoire des incidents de sûreté et de sécurité liés à l'IA auprès des autorités de régulation et du public.

4. Une coordination internationale sur la gouvernance des IA de pointe.

5. Une pause dans le développement de modèles d'IA plus puissants, jusqu'à ce que leur contrôle puisse être démontré, et non simplement promis.

« Les engagements volontaires ne suffisent pas face à des risques qui dépassent les frontières. Nous avons besoin de règles internationales communes, d'évaluations indépendantes et de mécanismes capables d'imposer une pause dans le développement de modèles d'IA de pointe jusqu'à ce que toutes les conditions de sécurité et de contrôle démocratique soient réunies », conclut Clémence Peyrot.

Sources

– OpenAI, Preparedness Framework

– Déclaration d'OpenAI sur l'incident cyber

– Rapport d'incident de Hugging Face

À propos de Pause IA

Pause IA est une association de bénévoles qui alerte les citoyen·nes et les pouvoirs publics français sur les graves dangers de la course à l'intelligence artificielle et les incite à agir pour s'y opposer.

Pause IA est la représentation en France de Pause AI Global, qui demande un moratoire sur l'entraînement des systèmes d'IA générale (IAG) jusqu'à ce que toutes les conditions de sécurité et de contrôle démocratique soient réunies.

📞 Contact Presse

Clémence Peyrot

Directrice exécutive de Pause IA

Email : presse@pauseia.fr

Tél. : 06 45 51 34 15

Pause IA

Site web : https://pauseia.fr/

📂 Accéder à notre espace presse

Vous recevez cet email en tant que contact presse de Pause IA.
Se désinscrire  |  Gérer mes préférences presse