Google Earth suspend un nouvel outil d’IA pour la création de cartes
Une journée après son lancement, Google Earth a décidé de mettre sur pause une fonctionnalité de son logiciel de visualisation terrestre, permettant aux utilisateurs de modifier des cartes à l’aide de l’intelligence artificielle (IA). Ce nouvel outil, qui a été mis en ligne cette semaine, aurait pu faciliter la désinformation et permettre à des gouvernements de nier des atrocités, selon des experts en vérification d’images.
La fonctionnalité permettait aux utilisateurs de sélectionner un emplacement sur la planète et de modifier l’image en quelques clics. Cependant, au moment de la rédaction de cet article, Google a annoncé la suspension de cette option. Un porte-parole a déclaré : « Nous savons que les utilisateurs accordent une confiance unique à Google Earth pour obtenir une vision fiable du monde. Nous avons vu des professionnels du secteur géospatial utiliser cette fonctionnalité à des fins très utiles. Cependant, nous avons également constaté que des personnes partageaient des captures d’écran d’images générées qui semblent enfreindre nos règles. Nous retirons donc cette fonctionnalité pendant que nous travaillons à la mise en place de garde-fous plus stricts. »
Des tests effectués sur l’outil ont montré qu’il était possible de générer rapidement des images de scènes fictives, comme un bâtiment en feu ou des chars d’assaut entourant le Stade olympique de Montréal. D’autres utilisateurs ont également réussi à créer des images de conflits ou d’attentats terroristes.
Cette situation soulève des inquiétudes parmi les experts, notamment Henk van Ess, un chercheur en sources ouvertes (OSINT). Il a exprimé son inquiétude sur le manque de garde-fous en place lors de l’activation de l’outil. Van Ess a déclaré : « Google affirme bloquer les sujets potentiellement dangereux. J’ai testé pour voir si je pouvais créer une image de réfugiés mexicains à la frontière américaine, une centrale nucléaire en Iran, un écrasement d’avion à Amsterdam, un hôpital bombardé à Gaza. Le système n’a rien refusé. »
Il a également souligné que Google Earth est un outil essentiel pour les journalistes et les chercheurs documentant des crimes de guerre ou des atrocités. La possibilité de créer de fausses images à partir d’un outil de vérification pourrait nuire à la crédibilité de l’information.
En réponse aux préoccupations soulevées, Google a affirmé qu’il prenait la désinformation au sérieux et qu’il mettrait à jour ses protections. Les images générées par l’outil contiennent un filigrane invisible, appelé SynthID, qui permettrait de les identifier comme étant générées par IA.
Cette suspension soulève des questions sur l’équilibre entre l’innovation technologique et la responsabilité sociale, en particulier dans le contexte d’un monde de plus en plus numérique.
Source : Radio-Canada
