Les Nations unies ont lancé un nouvel avertissement contre la montée des discours de haine sur Internet, estimant que les algorithmes des plateformes numériques et les progrès de l’intelligence artificielle favorisent leur diffusion à une échelle sans précédent.
À l’occasion de la cinquième Journée internationale de lutte contre les discours de haine, célébrée le 18 juin, responsables onusiens, diplomates et experts ont appelé à une mobilisation mondiale afin de mieux encadrer l’espace numérique, qu’ils considèrent désormais comme un facteur de polarisation et de violences.
Dans un message adressé aux participants, le secrétaire général de l’ONU, António Guterres, a dénoncé des algorithmes qui « valorisent l’indignation et la division », privilégiant les contenus mensongers ou provocateurs pour générer davantage d’interactions et de revenus publicitaires.
Pour les Nations unies, les discours de haine ne constituent pas seulement un problème de modération des contenus, mais un risque direct pour la paix et la sécurité. Le conseiller spécial pour la prévention du génocide, Chaloka Beyani, a rappelé que plusieurs tragédies historiques, notamment l’Holocauste, le génocide des Tutsis au Rwanda en 1994 et celui de Srebrenica en 1995, avaient été précédées par des campagnes de déshumanisation et de propagande haineuse.
Les responsables onusiens s’inquiètent également du rôle croissant de l’intelligence artificielle, notamment des hypertrucages (« deepfakes »), utilisés pour diffuser de fausses informations ou cibler des personnalités publiques, en particulier des femmes exerçant des responsabilités politiques ou médiatiques.
Face à cette évolution, l’ONU plaide pour une coopération renforcée entre gouvernements, entreprises technologiques, médias, chercheurs et organisations de la société civile. L’objectif est de rendre les plateformes plus transparentes, de limiter la propagation des contenus haineux, de renforcer l’éducation aux médias et de promouvoir une intelligence artificielle respectueuse des droits fondamentaux.
L’organisation prépare également de nouvelles initiatives, dont un programme de formation destiné à son personnel sur la lutte contre l’antisémitisme ainsi qu’un plan d’action mondial contre l’islamophobie. Pour les Nations unies, la prévention des violences passe désormais aussi par la transformation de l’architecture numérique afin qu’elle cesse de favoriser les contenus les plus polarisants.