Le développement rapide de l’intelligence artificielle (IA) inquiète jusqu’aux responsables de l’industrie, alors que les mécanismes de contrôle peinent à suivre l’évolution des capacités technologiques. Le Haut-Commissaire de l’ONU aux droits de l’homme, Volker Türk, a appelé lundi les Etats et les entreprises à une « action urgente » pour encadrer les systèmes d’IA les plus avancés.
Dans une lettre adressée aux gouvernements et aux développeurs, il met notamment en garde contre l’essor de l’IA « agentique », capable d’exécuter de manière autonome des tâches et de poursuivre des objectifs. Une défaillance de ces systèmes pourrait, selon lui, perturber des services essentiels, les communications ou des infrastructures critiques, voire affecter le fonctionnement d’institutions démocratiques.
Les risques ne relèvent toutefois plus seulement de scénarios futurs. L’ONU évoque déjà l’exploitation massive de données personnelles, les technologies de surveillance, la désinformation ou encore l’automatisation de services susceptibles de pénaliser davantage les populations marginalisées.
Volker Türk estime que les conséquences pourraient toucher l’ensemble des droits humains, jusqu’au droit à la vie. Il réclame notamment des évaluations indépendantes des capacités des agents d’IA, avec un accès des experts aux modèles, à leur documentation et à leurs environnements de test. Les entreprises devraient également mesurer en permanence les effets de leurs produits sur les droits fondamentaux.
Son intervention intervient alors que le quatrième Forum mondial de l’UNESCO sur l’éthique de l’IA se tient à Riyad jusqu’au 17 septembre. Le rendez-vous réunit gouvernements, chercheurs, entreprises et société civile autour de la mise en œuvre concrète des principes éthiques.
L’alerte de l’ONU rejoint par ailleurs les inquiétudes exprimées dans le secteur. Dario Amodei, dirigeant d’Anthropic, s’est récemment prononcé pour un ralentissement des progrès de l’IA afin de mieux évaluer les risques liés à ses nouvelles capacités.
Pour M. Türk, aucune entreprise ni aucun Etat ne peut toutefois fixer seul les limites d’une technologie déployée à l’échelle mondiale. Il appelle à une régulation multilatérale, indépendante et transparente, estimant que les décisions prises aujourd’hui pourraient engager durablement les générations futures.