La déclaration commune des chefs d'État et de gouvernements

À ce jour, jeudi 24 septembre matin, 26 chefs d'État, dont la France, et la présidente de l'Union européenne ont apposé leur signature à la déclaration commune intitulée « A Call for Control of Frontier AI Models » (Appel au contrôle des modèles d'IA de pointe), publiée deux jours avant.

Le texte affirme notamment :

« L'IA doit rester sous la direction, la surveillance et le contrôle des humains. Elle doit être utilisée et développée dans le respect du droit international. »

Cette déclaration fait écho aux propositions de Dario Amodei dans sa note intitulée « We Must Pace the Frontier » (sans toutefois les citer), en reprenant son souhait de normalisation internationale, de contrôle indépendant et de transparence. Mais elle s'en distingue en affirmant très clairement le rôle des États, des institutions (ONU) et du droit international, et en évitant toute allusion à une prétendue course entre les États-Unis et la Chine.

Pause IA salue cette fermeté : face à des technologies dont les effets ignorent les frontières, aucun contrôle ne peut reposer sur les seuls engagements volontaires des entreprises qui les développent ; l'exacerbation des rivalités doit être évitée.

La progression des signatures est visible sur le site de la présidence de la République finlandaise : presidentti.fi

La prise de position de la France au Conseil de sécurité de l'ONU

Le 23 septembre, à l'initiative de la France et sous sa présidence, le Conseil de sécurité des Nations unies a consacré une réunion aux risques que les systèmes d'IA avancés peuvent faire peser sur la paix et la sécurité internationales, notamment au risque de perte de contrôle. Il s'agit de la première séance du Conseil spécifiquement consacrée à la sécurité de l'IA et à la perte de contrôle des modèles avancés.

À cette occasion, le ministre français de l'Europe et des Affaires étrangères, Jean-Noël Barrot, a défendu la création d'un cadre international commun pour encadrer les modèles d'IA de pointe :

« À terme, l'humanité devra établir un cadre commun pour gérer les risques associés aux modèles d'IA de pointe. »
Jean-Noël Barrot, ministre de l'Europe et des Affaires étrangères

Cette prise de position constitue une évolution importante du discours français. La France reconnaît désormais au plus haut niveau diplomatique que les risques associés aux IA de pointe nécessitent une réponse internationale coordonnée, et non la seule autorégulation des entreprises.

Pause IA salue cette évolution et souhaite qu'elle se traduise désormais par des mécanismes de contrôle concrets, indépendants et vérifiables.

Le rapport scientifique du PSIIIA

Deux jours auparavant, le 21 septembre, le Panel scientifique international indépendant sur l'intelligence artificielle, créé par l'Assemblée générale des Nations unies pour fournir une expertise scientifique indépendante sur l'IA (PSIIIA, équivalent du GIEC), a publié son rapport d'analyse sur l'incident Hugging Face (perte de contrôle d'une IA à l'entraînement par OpenAI).

Son préambule est sans détour (extrait) :

« En règle générale, les domaines où les défaillances peuvent être catastrophiques gèrent l'incertitude par le biais de la responsabilité économique et juridique, du signalement des incidents, d'évaluations, d'examens indépendants, de multiples barrières techniques et de recherches sur les causes profondes. Ces approches pourraient s'avérer pertinentes pour l'IA dotée d'une capacité d'action autonome (IA "agentique") et méritent d'être prises en considération.

Aucune ne résout toutefois le problème scientifique et technique central : pourquoi un agent d'IA poursuit-il parfois des objectifs qui divergent radicalement des intentions de ses concepteurs, et comment empêcher l'émergence de tels objectifs plutôt que de simplement en atténuer les effets une fois qu'ils sont apparus ?

Le risque de perte de contrôle, en particulier, pose le type de problème décisionnel que le principe de précaution a vocation à traiter : une situation où les dommages potentiels peuvent être catastrophiques ou irréversibles, alors même que leur probabilité demeure scientifiquement incertaine. »

Lire le rapport complet du PSIIIA (PDF)

Un double discours institutionnel en France

Ces évolutions internationales rendent d'autant plus préoccupantes les prises de position récentes du Conseil de l'intelligence artificielle et du numérique (CIAN). Cette instance indépendante placée auprès de la ministre chargée de l'Intelligence artificielle et du Numérique a pour mission de notamment conseiller les choix du Gouvernement, d'éclairer le débat public et de contribuer à l'élaboration des positions françaises aux niveaux européen et international.

Tout récemment encore, le CIAN s'est exprimé largement dans les médias pour relativiser les craintes face à l'IA, qu'il assimile à de la « science-fiction », et pour juger que « l'estimation du risque existentiel à hauteur de 10 % ne repose sur aucun fondement scientifique ».

Ce propos, scientifiquement contestable, est diamétralement opposé à celui des experts du PSIIIA, notamment en ce qu'il ignore totalement le principe de précaution. Pour Pause IA, face à des risques catastrophiques, tourner l'incertitude en dérision est une politique irresponsable en termes de sécurité.

À propos de Pause IA

Pause IA est une association de bénévoles qui alerte les citoyen·nes et les pouvoirs publics français sur les graves dangers de la course à l'intelligence artificielle et les incite à agir pour s'y opposer.

Pause IA est la représentation en France de Pause AI Global, qui demande un moratoire sur l'entraînement des systèmes d'IA générale (IAG) jusqu'à ce que toutes les conditions de sécurité et de contrôle démocratique soient réunies.

📞 Contact Presse

Clémence Peyrot

Directrice exécutive de Pause IA

Email : presse@pauseia.fr

Tél. : 06 45 51 34 15

Pause IA

Site web : https://pauseia.fr/

📂 Accéder à notre espace presse

Vous recevez cet email en tant que contact presse de Pause IA.
Se désinscrire  |  Gérer mes préférences presse