Qui répond des dommages causés par l’IA ? L’ONU ouvre le débat sur la responsabilité
Le débat sur la responsabilité en matière de dommages causés par l’intelligence artificielle (IA) a été récemment relancé lors d’un dialogue mondial organisé par les Nations Unies à Genève. Ce forum a mis en lumière les dangers croissants associés à l’IA, notamment les violations des droits humains et les impacts environnementaux.
Sonia Livingstone, membre du Groupe scientifique international indépendant sur l’IA, a souligné que dans 11 pays du Sud global, jusqu’à un enfant par classe a rapporté que l’IA avait été utilisée pour créer des deepfakes à caractère sexuel. De plus, les signalements de contenus pédopornographiques générés par l’IA auprès de la ligne d’alerte américaine CyberTip, NCMEC, augmentent de façon exponentielle. Livingstone a affirmé que les preuves de violations liées à l’IA touchant les individus et les groupes vulnérables sont désormais « bien plus probantes » que les bénéfices de cette technologie.
Les discussions ont également abordé la nécessité d’intégrer des garde-fous dès la conception des systèmes d’IA. Le Haut-Commissaire des Nations Unies aux droits de l’homme, Volker Türk, a plaidé pour des principes d’égalité, de responsabilité et de supervision humaine dans le développement de l’IA. Il a comparé les normes de sécurité pour l’IA à celles en vigueur pour les médicaments et les véhicules, affirmant qu’elles ne doivent pas être perçues comme des obstacles au progrès.
En outre, les impacts environnementaux de l’IA ont été un point de préoccupation majeur. Les centres de données qui alimentent ces technologies consomment d’importantes quantités d’électricité et d’eau. Sasha Luccioni, cofondatrice du Sustainable AI Group, a noté que les communautés les plus marginalisées subissent déjà des conséquences négatives liées à cette consommation accrue.
La question de la transparence des algorithmes a également été soulevée. Amal El Fallah Seghrouchni, scientifique marocaine, a insisté sur la nécessité d’« ouvrir les « boîtes noires » de l’IA », car les modèles de langage reposent sur des centaines de milliards de paramètres dont le fonctionnement reste difficile à expliquer, même pour les experts.
Enfin, les violences en ligne facilitées par l’IA ont été mises en lumière, en particulier à l’égard des femmes. Selon une enquête d’ONU Femmes, une défenseuse des droits humains, journaliste ou militante sur quatre a déclaré avoir subi des violences facilitées par l’IA, tandis que 6 % ont été victimes de deepfakes ou d’images manipulées.
L’ONU espère que ce dialogue mondial contribuera à établir une gouvernance de l’IA qui reflète les priorités de tous les pays et garantisse que les bénéfices de cette technologie profitent à l’ensemble de l’humanité.
Source : ONU
