« L’IA dépasse désormais la capacité des États à la contrôler », alerte l’ONU

Présenté mercredi au siège de l’ONU, un rapport élaboré par 40 chercheurs internationaux alerte sur l’accélération des progrès de l’intelligence artificielle. Selon ses auteurs, les capacités de l’IA évoluent désormais plus vite que les connaissances scientifiques au point que les gouvernements ne sont plus capable de les analyser ni de les réguler.

Dans un rapport préliminaire, un groupe scientifique indépendant mandaté par les Nations unies tire la sonnette d’alarme : « L’intelligence artificielle ne se contente plus d’écrire des textes, de générer des images ou d’aider à programmer. Elle commence à agir seule, à prendre des décisions, à collaborer avec d’autres systèmes et, parfois, à contourner les consignes qui lui sont données ».

Une intelligence artificielle de plus en plus autonome

Ce document se veut le premier état des lieux mondial des promesses et des risques liés à l'intelligence artificielle. Son objectif est d'offrir aux États une base scientifique commune au moment où s’ouvrent les premières négociations internationales sur la gouvernance de l’intelligence artificielle.

Pour le secrétaire général de l’ONU, ce rapport intervient à un moment décisif. « Plus l’intelligence artificielle progresse sans règles communes, moins les gouvernements et les peuples auront leur mot à dire sur son devenir », a averti António Guterres lors d’une conférence de presse.

Le constat est préoccupant. « Les capacités de l’IA dépassent désormais la compréhension scientifique et la capacité des gouvernements à s’adapter », a résumé Yoshua Bengio.

Des bénéfices considérables, mais des risques croissants

Le rapport décrit une rupture plus profonde encore que l’arrivée de ChatGPT fin 2022. Les chercheurs observent désormais l’émergence d’« agents » capables d’exécuter de manière autonome des tâches complexes : naviguer sur Internet, utiliser des logiciels, écrire du code, conduire des recherches ou coordonner d’autres intelligences artificielles.

Cette évolution modifie profondément les enjeux. Le risque ne réside plus uniquement dans une réponse erronée produite par une IA, mais dans sa capacité à agir directement dans le monde réel avec une supervision humaine de plus en plus limitée. Or, préviennent les auteurs, les outils permettant de garantir que ces systèmes restent sous contrôle progressent moins vite que leurs performances.

Le rapport ne se limite toutefois pas à une mise en garde. Les scientifiques soulignent les avancées déjà permises par l’IA, qu’il s’agisse de la découverte accélérée de nouveaux médicaments, de l’amélioration du dépistage du cancer, du soutien aux systèmes de santé, de l’accélération de la recherche scientifique ou encore de la prévision des sécheresses et des maladies agricoles.

Le risque d’un monde encore plus inégalitaire

Ces bénéfices, rappellent les chercheurs, profitent avant tout aux pays disposant déjà d’infrastructures numériques, de données, d’institutions solides et d'une main-d'œuvre qualifiée. Ailleurs, cette même technologie pourrait au contraire accentuer les inégalités existantes.

Plus d’un milliard de personnes utilisent désormais chaque semaine des outils conversationnels d’intelligence artificielle. Pourtant, la quasi-totalité des modèles les plus avancés est développée aux États-Unis et en Chine, laissant une grande partie du monde en développement dépendante de systèmes qu’elle ne peut ni concevoir, ni auditer, ni adapter à ses langues ou à ses besoins.

« Les bénéfices apparaissent là où existent déjà les institutions, les compétences et les données », a rappelé Amandeep Singh Gill. « Là où ce n’est pas le cas, cette même technologie peut déplacer les travailleurs, creuser les inégalités et rendre des communautés dépendantes de systèmes conçus sans elles ».

Le rapport sera présenté la semaine prochaine à Genève lors du premier dialogue mondial de l’ONU consacré à la gouvernance de l’intelligence artificielle, où les États membres tenteront de poser les bases d’un cadre international de coopération. « La science est là », a conclu António Guterres. « Nous ne pouvons plus dire que nous ne savions pas. Ce que nous en ferons dépend désormais de nous tous ».