Risques de l’IA : le sursaut des nations

En trois jours, du 21 au 23 septembre, le contrôle des IA de pointe s’est imposé à l’agenda international : un rapport scientifique de l’ONU, une déclaration de chefs d’État, une séance inédite du Conseil de sécurité.

Pause IA salue la mobilisation des États et le travail des scientifiques indépendants. L’association se félicite en particulier de l’engagement de la France et de l’Union européenne, tout en soulignant le contraste avec les prises de position récentes du Conseil de l’intelligence artificielle et du numérique (CIAN).

La déclaration commune des chefs d’État et de gouvernement

Une déclaration commune intitulée « A Call for Control of Frontier AI Models » (Appel au contrôle des modèles d’IA de pointe) a été publiée. Deux jours plus tard, 26 chefs d’État, dont la France, et la présidente de l’Union européenne l’avaient signée.

Le texte affirme notamment :

Cette déclaration fait écho aux propositions de Dario Amodei dans sa note intitulée « We Must Pace the Frontier », sans toutefois les citer. Elle reprend son souhait de normalisation internationale, de contrôle indépendant et de transparence.

Elle s’en distingue en affirmant très clairement le rôle des États, des institutions (ONU) et du droit international. Elle évite aussi toute allusion à une prétendue course entre les États-Unis et la Chine.

Pause IA salue cette fermeté : face à des technologies dont les effets ignorent les frontières, aucun contrôle ne peut reposer sur les seuls engagements volontaires des entreprises qui les développent. L’exacerbation des rivalités doit être évitée.

La prise de position de la France au Conseil de sécurité de l’ONU

À l’initiative de la France, qui le présidait, le Conseil de sécurité des Nations unies a consacré une réunion aux risques que les systèmes d’IA avancés font peser sur la paix et la sécurité internationales, notamment au risque de perte de contrôle. C’est la première séance du Conseil spécifiquement consacrée à la sécurité de l’IA et à la perte de contrôle des modèles avancés.

Le ministre de l’Europe et des Affaires étrangères, Jean-Noël Barrot, y a défendu la création d’un cadre international commun pour encadrer les modèles d’IA de pointe :

Cette prise de position constitue une évolution importante du discours français. La France reconnaît désormais, au plus haut niveau diplomatique, que les risques associés aux IA de pointe nécessitent une réponse internationale coordonnée, et non la seule autorégulation des entreprises.

Pause IA salue cette évolution et souhaite qu’elle se traduise désormais par des mécanismes de contrôle concrets, indépendants et vérifiables.

Le rapport scientifique du PSIIIA

Le Panel scientifique international indépendant sur l’intelligence artificielle (PSIIIA) a été créé par l’Assemblée générale des Nations unies pour fournir une expertise scientifique indépendante sur l’IA. C’est l’équivalent du GIEC. Il a publié son rapport d’analyse sur l’incident Hugging Face : la perte de contrôle d’une IA à l’entraînement par OpenAI.

Son préambule est sans détour (extrait) :

Un double discours institutionnel en France

Ces évolutions internationales rendent d’autant plus préoccupantes les prises de position récentes du CIAN. Cette instance indépendante, placée auprès de la ministre chargée de l’Intelligence artificielle et du Numérique, a notamment pour mission de conseiller les choix du Gouvernement, d’éclairer le débat public et de contribuer à l’élaboration des positions françaises aux niveaux européen et international.

Tout récemment encore, le CIAN s’est exprimé largement dans les médias pour relativiser les craintes face à l’IA, qu’il assimile à de la « science-fiction ». Il juge que « l’estimation du risque existentiel à hauteur de “10%” ne repose sur aucun fondement scientifique ».

Ce propos, scientifiquement contestable, est diamétralement opposé à celui des experts du PSIIIA, notamment en ce qu’il ignore totalement le principe de précaution. Pour Pause IA, face à des risques catastrophiques, tourner l’incertitude en dérision est une politique irresponsable en matière de sécurité.

Agir

Les États bougent parce que des citoyens, des chercheurs et des associations les y poussent. Pour que la France passe des déclarations aux actes, vos élu·es doivent entendre parler de ces risques.