Meta lance un outil de détection des images générées par IA, mais son efficacité demeure limitée
Meta a récemment développé un outil destiné à détecter les images générées par l’intelligence artificielle (IA). Cependant, cet outil, qui est encore en préversion, ne parvient pas toujours à identifier correctement les images créées par ses propres algorithmes.
Siwei Lyu, professeur d’informatique à l’université d’État de New York à Buffalo et expert en criminalistique des images IA, souligne une contrainte structurelle commune aux systèmes reposant sur un filigrane invisible. Selon lui, des manipulations telles que le recadrage, la compression excessive ou le redimensionnement peuvent altérer ou effacer le signal intégré dans l’image.
Meta a précisé que son outil de détection n’est pas encore totalement fiable. Sur son site, l’entreprise affirme que le filigrane reste détectable même après certaines altérations, telles que le recadrage ou la compression. Toutefois, elle admet que des modifications significatives peuvent entraîner la disparition du signal.
Des entreprises comme Google et OpenAI ont également averti que leurs outils de détection ne sont pas infaillibles face aux diverses techniques d’altération des images.
L’Oversight Board, un organe d’experts chargé de la modération des contenus sur les plateformes de Meta, a recommandé à l’entreprise d’investir dans des systèmes de détection plus robustes pour lutter contre la propagation de contenus trompeurs générés par IA.
Pour Sarah Barrington, chercheuse en IA à l’UC Berkeley School of Information, bien que le marquage numérique ne soit pas parfait, il représente une avancée significative pour l’avenir des contenus générés par IA. Elle le compare à des mes de cybersécurité préventives, qui, bien que jamais totalement infaillibles, peuvent être utiles en interceptant une partie des cas.
Source : Phonandroid.
