Le Groupe scientifique international indépendant de l'intelligence artificielle, réunissant 37 scientifiques indépendants, présidé par Yoshua Bengio (Prix Turing) et Maria Ressa (Prix Nobel de la Paix) sous l'égide de l'Organisation des Nations Unies, vient de publier son premier rapport préliminaire.

Présenté ce 6 juillet à Genève lors de la première session du Dialogue global sur l'intelligence artificielle, également sous l'égide des Nations Unies, il rassemble les « données probantes » devant servir de base aux politiques publiques en la matière.

Pause IA se félicite de la mise en évidence des dangers contenue dans ce rapport.

« En l'absence d'évaluations standardisées, rigoureuses et indépendantes menées par des tiers, à l'instar de ce qui existe dans les secteurs pharmaceutique et aéronautique, l'assurance concernant la sécurité repose en grande partie sur le bon vouloir des développeurs ».

Fait aggravant n°1 : « Les capacités de l'intelligence artificielle évoluent plus rapidement que notre aptitude à les évaluer ou à les maîtriser ». Les raisons invoquées sont multiples : les tests sont inadaptés ou devenus trop faciles, les modèles sont capables de tromper et de « savoir » quand ils sont testés, le fonctionnement interne des modèles reste mal compris (non-interprétabilité), etc.

Fait aggravant n°2 : L'intelligence artificielle agentique marque un « tournant décisif » en matière de risques. L'IA agentique est capable de naviguer sur le Web, d'utiliser des logiciels, de prendre des décisions, d'exécuter du code, de gérer et de collaborer avec d'autres agents, et de faire fonctionner des ordinateurs avec une autonomie croissante, et donc avec une moindre supervision humaine. Le risque de perte de contrôle « augmente considérablement » ; « il est plus difficile de maîtriser des systèmes qui pourraient finir par surpasser l'intelligence humaine ». Ces agents autonomes constituent également une cible privilégiée pour les cyberattaques.

Pause IA s'étonne toutefois que, ayant mis en évidence les nombreux périls liés aux modèles d'IA généraliste avancée, les auteurs du rapport y voient un « dilemme » (Faut-il attendre de disposer de données probantes pour agir au risque que cela soit trop tard ?).

Pour Clémence Peyrot, directrice exécutive de Pause IA, « les risques inhérents aux modèles d'IA avancés sont suffisamment établis et les enjeux suffisamment vitaux pour que le principe de précaution s'applique immédiatement. Face à l'urgence, la priorité n°1 du Dialogue global sur l'intelligence artificielle devrait être de créer les conditions institutionnelles et réglementaires d'une pause dans le développement des modèles avancés d'intelligence artificielle ».

À propos de Pause IA

Pause IA est une association de bénévoles qui alerte les citoyen·nes et les pouvoirs publics français sur les graves dangers de la course à l'intelligence artificielle et les incite à agir pour s'y opposer.

Pause IA est la représentation en France de Pause AI Global, qui demande un moratoire sur l'entraînement des systèmes d'IA générale (IAG) jusqu'à ce que toutes les conditions de sécurité et de contrôle démocratique soient réunies.

📞 Contact Presse

Clémence Peyrot

Directrice exécutive de Pause IA

Email : presse@pauseia.fr

Tél. : 06 45 51 34 15

Pause IA

Site web : https://pauseia.fr/

📂 Accéder à notre espace presse

Vous recevez cet email en tant que contact presse de Pause IA.
Se désinscrire  |  Gérer mes préférences presse