Il est temps de prendre au sérieux les risques de l’IA

01Pause IA sert-elle les intérêts de la Silicon Valley ?

Depuis plusieurs mois, une critique revient régulièrement dans le débat public : en alertant sur les risques de l’intelligence artificielle, des mouvements comme Pause IA serviraient en réalité les intérêts des géants de la Silicon Valley comme Anthropic ou OpenAI.

Cette critique s’inscrit dans ce qu’on appelle la « théorie de la hype » : les laboratoires d’IA exagéreraient les capacités de leurs modèles afin d’attirer les investisseurs et les capitaux. Le discours sur les dangers de l’IA serait une autre manière de nourrir ce récit. Car présenter sa technologie comme potentiellement dangereuse, c’est aussi la présenter comme puissante. Affirmer par exemple que son produit est si performant qu’il pourrait devenir incontrôlable reste, d’une certaine façon, un argument de vente. Cette mise en avant des risques aurait même un second avantage : elle permettrait de justifier une réglementation favorable aux acteurs déjà dominants, mieux armés que leurs concurrents pour s’y conformer.

L’argument est le suivant. Si l’IA est réellement incontrôlable, son développement ne peut être confié qu’à ceux qui ont les moyens de la maîtriser. Or seuls quelques géants disposent de ces moyens. Les appels à la régulation aboutiraient donc à verrouiller le marché : des règles de sécurité coûteuses à respecter empêcheraient l’arrivée de nouveaux concurrents et renforceraient le pouvoir d’OpenAI, de Google ou d’Anthropic.

Cette critique mérite d’être prise au sérieux. Mais conduit-elle à rejeter les préoccupations liées aux risques de l’IA ?

Pourquoi cette critique existe-t-elle ?

En 1971, l’économiste George Stigler a théorisé le concept de « capture réglementaire » : une industrie finit par utiliser la régulation pour protéger sa position dominante. Dans le tabac par exemple, de grandes marques de cigarettes ont parfois soutenu l’interdiction de la publicité, figeant ainsi les parts de marché et compliquant l’arrivée de nouveaux concurrents.

Cette inquiétude est renforcée par un fait troublant : les dirigeants d’OpenAI, d’Anthropic et de DeepMind parlent eux-mêmes de risques catastrophiques et signent les déclarations d’alerte. De quoi suggérer que ce discours pourrait, au fond, les arranger, en imposant l’idée que seuls quelques acteurs soucieux des risques sauraient maîtriser l’IA.

Un moratoire sur l’IA sans favoriser les géants de la Silicon Valley

Il est tout à fait possible de poursuivre simultanément deux objectifs :
mettre en pause le développement des systèmes les plus dangereux ;
lutter contre les monopoles technologiques.

C’est justement ce que demande Pause IA : une pause dans l’entraînement des IA les plus puissantes et dangereuses, développées notamment par les géants américains de la Tech. Notre demande ne concerne pas l’IA en général. Les modèles d’IA spécialisés (imagerie médicale, voitures autonomes, diagnostic) ne sont pas concernés. Le moratoire demandé par Pause IA limiterait les possibilités de capture réglementaire par les laboratoires d’IA dominants.

Capture réglementaire ou pas, les risques de l’IA restent réels

Même si certaines entreprises peuvent tirer profit de certaines formes de régulation, cela ne nous dit rien sur la réalité du risque en lui-même. Ainsi, après un accident aérien, les compagnies peuvent bénéficier de réglementations imposant des enquêtes de sécurité qui renforcent la confiance du public. Cela ne signifie pas pour autant que les crashs n’existent pas ou qu’il faudrait cesser de s’en préoccuper.

De la même manière, le fait que certains dirigeants de laboratoires d’IA évoquent les risques de l’IA n’est pas un argument contre leur existence.

D’ailleurs, ces préoccupations ne viennent pas uniquement de quelques PDG d’entreprises de la Silicon Valley. En 2023, des centaines de chercheurs ont signé la déclaration du Center for AI Safety plaçant l’extinction liée à l’IA au rang des priorités mondiales, aux côtés des pandémies et de la guerre nucléaire. Les trois chercheurs les plus cités du domaine, Yoshua Bengio, Geoffrey Hinton et Ilya Sutskever, ont fait partie des signataires.

Il n’existe certes pas de consensus scientifique complet sur la probabilité d’une catastrophe liée à l’IA. Des chercheurs de premier plan comme Yann LeCun ou Andrew Ng sont beaucoup plus sceptiques. Mais l’absence de consensus n’est pas une raison suffisante pour ignorer ces risques aux conséquences potentiellement très graves. Les enjeux sont suffisamment important pour que le principe de précaution s’applique immédiatement.

Une question démocratique

Les inquiétudes autour de la capture réglementaire sont légitimes et importantes. L’IA pourrait transformer nos sociétés à une vitesse inédite dans l’histoire ; décider comment la réguler, et surtout par qui, est un enjeu majeur. Or aujourd’hui, ce choix est largement laissé aux entreprises qui construisent ces systèmes. C’est précisément pour que cette décision redevienne un objet de débat démocratique que Pause IA existe.

Alors, Pause IA, idiot utile de la Silicon Valley ? C’est l’inverse. Exiger une pause décidée démocratiquement, c’est précisément refuser que l’avenir de cette technologie reste entre les mains d’une poignée d’entreprises privées.

02Une étude du MIT estime à au moins 10 % la probabilité d’une catastrophe liée à l’IA d’ici 2030

Le groupe interdisciplinaire FutureTech du Massachusetts Institute of Technology a publié en juin 2026 une étude visant à hiérarchiser les risques liés à l’intelligence artificielle. Pour ce faire, les chercheurs ont réuni 272 experts spécialisés dans différents risques liés à l’IA, venant de 37 pays, et issus du monde universitaire, de l’industrie, de la société civile et des pouvoirs publics. Quels sont les risques les plus graves ? Où faut-il d’abord concentrer ses efforts ? Qui est responsable d’y remédier ?

Selon la communication effectuée par le MIT, la conclusion générale est que les experts sont préoccupés par trois grandes catégories de risques. La première est la course visant à développer des systèmes fondamentalement dangereux. Les IA ont notamment montré qu’elles pouvaient mentir, tricher, pirater des systèmes informatiques. Investir dans la sécurité de l’IA peut réduire ce danger, toutefois la course au développement de l’IA entre ces entreprises se fait au détriment de la sécurité.

En second lieu, les experts craignent que des acteurs utilisent l’IA à mauvais escient pour causer des dommages importants : cyberattaques contre des infrastructures essentielles, emploi d’armes biologiques, fraudes, ou désinformation de masse.

Enfin, les experts sont préoccupés par la concentration du pouvoir économique, politique et militaire, que pourrait conférer l’IA entre les mains d’un petit nombre de personnes, d’entreprises ou de pays, et qui serait de nature à entraîner une distribution inéquitable des bénéfices et un accroissement des inégalités.

Les utilisateurs de l’IA et le grand public ont été jugés les plus vulnérables face à ces risques. Dans le même temps, les experts ont attribué la responsabilité la plus élevée d’y remédier aux développeurs d’IA à usage général et aux acteurs de la gouvernance (tels que les gouvernements, les régulateurs et les organismes de normalisation).

Au rythme actuel, les experts estiment que 18 des 24 risques évalués ont chacun plus de 10 % de chances de provoquer une catastrophe dans les cinq prochaines années. Une catastrophe désigne par exemple plus d’un million de morts, plus de 100 milliards de dollars US de pertes, ou des préjudices civilisationnels tels que l’effondrement des normes démocratiques ou de la vie privée. Le danger ne vient donc pas d’un risque isolé qu’il suffirait de neutraliser, mais de la quasi-totalité du spectre étudié :

Pour les auteurs, ces chiffres appellent une réponse urgente :