Nous sommes au bord de la perte de contrôle : réagissons !

Nous lançons notre campagne pour l’arrêt de la course à la superintelligence, avec une semaine d’action partout en France. Voici nos demandes et comment agir avec nous.

L’IA dépasse désormais les humains en sécurité informatique.

Les laboratoires lancent des IA capables d’agir par elles-mêmes, parfois en essaims, et ils ne savent ni prévoir ni contrôler ce qu’elles font. Nos infrastructures critiques, hôpitaux, banques, transports, centrales nucléaires, sont exposées à des systèmes que personne ne pilote.

À lire, nos analyses complètes : Personne ne contrôle l’IA, le danger est imminent et Non, course et sécurité ne sont plus compatibles.

Ce que nous demandons

Un moratoire mondial sur le développement des IA de pointe, encadré par un traité international, qui durera tant que la faisabilité d’une IA sécurisée ne sera pas scientifiquement démontrée.

Et deux mesures de sauvegarde immédiates :

Une semaine d’action, du 18 au 27 septembre

Les groupes locaux organisent des actions de rue, des conférences et des stands partout en France. Plusieurs animeront aussi notre nouvel atelier pédagogique, la fresque des risques de l’IA. Venez nous retrouver, il se passe sûrement quelque chose près de chez vous.

Des actions se préparent également à Bordeaux, en Dordogne et à Lyon, dates à venir. Pour suivre nos actions de plus près, rejoignez-nous sur Discord.

Vous pouvez aussi participer à notre campagne à distance, grâce à l’outil de mailing développé par l’équipe bénévole.

Nous lançons la Fresque des risques de l’IA

En parallèle de la campagne, nous lançons un projet qui nous tient à cœur : la Fresque des risques de l’IA. C’est un atelier collaboratif construit autour d’un jeu de cartes. Les participants posent les cartes sur un tableau, les relient et en discutent. Chacun repart avec une vue d’ensemble de l’IA, de ses risques et des solutions possibles.

Le principe vient de la Fresque du Climat. Toutes les informations sont sur les cartes, personne n’a besoin d’être expert, pas même l’animateur. Chacun peut donc reprendre l’atelier et l’animer à son tour. Le CeSIA nous a généreusement partagé sa Fresque de la sécurité de l’IA, une très bonne base, et nous l’avons remaniée avec toute une équipe de bénévoles tout l’été pour en faire une version Pause IA.

Nous voulions un atelier ouvert à tous, sans barrière, et qui puisse se diffuser largement. Tout est donc gratuit et en licence libre : le jeu de cartes à télécharger et à imprimer, un site pour programmer un atelier et s’y inscrire. Nous sommes même allés jusqu’à développer un outil pour faire l’atelier en ligne. Voici à quoi ressemble le tableau partagé.

Mais maintenant, le succès de la Fresque dépend de vous.

Pour qu’elle remplisse son objectif, il faut qu’elle circule : dans nos groupes locaux, auprès de vos proches, dans les associations, les universités, les entreprises, les écoles ou partout où des personnes peuvent avoir envie de mieux comprendre les risques liés à l’IA.

Un atelier est peut-être déjà programmé près de chez vous ou en ligne : venez le découvrir. Et si ce n’est pas le cas, c’est peut-être à vous de lancer le premier ! Un guide d’animation est disponible pour vous accompagner pas à pas, même si vous n’avez jamais animé d’atelier auparavant.

Nous comptons sur vous pour faire vivre cet outil et permettre à la Fresque des risques de l’IA de toucher le plus grand nombre.