4 rendez-vous pour faire de la sécurité de l’IA une priorité politique.

Cet été, Pause IA va à la rencontre des responsables politiques

Dans quelques jours, Pause IA prendra la route des universités d’été.

Entre le 21 et le 29 août, nos bénévoles seront présents aux rendez-vous de La France insoumise, du REV (Révolution écologique pour le vivant), des Écologistes et du Parti Socialiste.

Notre objectif : interpeller directement les responsables politiques et les militant·es qui contribuent à construire les programmes des prochaines années, pour leur parler des risques liés au développement incontrôlé de l’intelligence artificielle.

Ces rencontres comptent. Une conversation ne suffit généralement pas à faire d’un sujet une priorité politique : il faut revenir, expliquer, répondre aux objections, faire entendre le même problème par plusieurs voix. C’est ce travail de fond que nous voulons mener partout où se prennent et se préparent les décisions.

Vous voulez nous rejoindre sur place ? Les informations pratiques et l’organisation des équipes seront partagées sur notre Discord.

Le principal obstacle à la sécurité de l’IA ? La volonté politique !

Ce choix d’aller directement à la rencontre des responsables politiques répond à un constat plus large.

Dans une analyse publiée le 11 juillet, Charbel-Raphaël Ségerie, directeur exécutif du CeSIA (Centre pour la Sécurité de l’IA), défend une thèse simple : nous savons déjà assez de choses pour agir, mais nous ne les faisons pas.

Signalement systématique des incidents, évaluations de sécurité, transparence, red teaming, etc. De nombreuses mesures concrètes sont déjà connues. Elles ne résoudraient pas à elles seules le problème de la sécurité d’une éventuelle superintelligence, mais elles permettraient déjà de réduire les risques, de mieux détecter les dangers et de gagner du temps. Pourtant, même ces précautions élémentaires restent loin d’être généralisées. Le problème est donc maintenant d’obtenir la volonté politique de mettre en œuvre les préconisations de Pause IA.

Mais le déséquilibre est considérable. En 2023, sur 97 rencontres de haut niveau de la Commission européenne consacrées à l’IA recensées dans l’article, 84 étaient avec l’industrie, contre seulement 12 avec la société civile. Pendant que les entreprises technologiques disposent d’un accès considérable aux décideurs, les organisations qui alertent sur les risques graves de l’IA restent très peu nombreuses. C’est ce qui explique que des scénarios de perte de contrôle, de pandémies artificielles, ou de mortalité de masse sont pris au sérieux par une partie croissante de la communauté scientifique, mais restent largement absents des politiques publiques sur l’IA.

C’est précisément pour combler cet écart que Pause IA existe. Notre conviction, partagée par de nombreux chercheurs en sécurité de l’IA, y compris Charbel-Raphaël Ségerie lui-même, c’est qu’il faut investir massivement dans le plaidoyer, « frapper aux portes des médias, des décideurs politiques et des institutions influentes, et continuer de frapper » pour faire entrer la perte de contrôle de l’IA dans le débat politique avant qu’il ne soit trop tard.

Ce travail nécessite du temps, des déplacements, du matériel, des salarié·es et une organisation capable d’être présente partout où ces décisions se préparent.

Si vous pensez, vous aussi, que la sécurité de l’IA doit devenir une priorité politique, vous pouvez nous donner les moyens de porter ce message plus loin. En adhérant à Pause IA, vous envoyez un signal fort aux politiques.