Anthropic met fin à des opérations de surveillance en Chine et en Iran
L’entreprise américaine Anthropic a annoncé, ce jeudi, avoir interrompu plusieurs opérations de surveillance ciblant des dissidents et des minorités ethniques, utilisant son assistant d’intelligence artificielle (IA) Claude. Ces incidents, identifiés et neutralisés entre janvier et juillet, provenaient principalement de Chine, d’Iran et d’Afrique de l’Ouest, selon un rapport détaillant les détournements de ses modèles.
Ces campagnes de surveillance visaient des groupes historiquement ciblés par ces régimes, notamment des figures prodémocratie à Hong Kong, des communautés tibétaines et du Falun Gong en Asie, ainsi que des minorités iraniennes et des opposants au régime iranien à l’étranger. Dans un exemple, des acteurs iraniens ont développé des méthodes pour identifier des individus via leurs comptes sur les réseaux sociaux. Par ailleurs, un prestataire travaillant pour les autorités de sécurité nationale du Mali a utilisé Claude pour concevoir un logiciel dédié à la collecte de renseignements.
Anthropic a également signalé avoir déjoué des tentatives de création d’armes, de recherches biologiques douteuses, et de développement de fausses applications de rencontre visant à escroquer des utilisateurs. L’entreprise a spécifiquement accusé les entreprises chinoises Moonshot et DeepSeek d’avoir utilisé Claude de manière clandestine pour répondre aux requêtes de leurs utilisateurs, tout en récupérant les résultats pour améliorer leurs propres modèles.
Des développeurs chinois avaient déjà été accusés d’utiliser sans autorisation cette pratique, connue sous le nom de « distillation », au détriment de laboratoires américains tels qu’Anthropic et OpenAI. Dans un cas documenté, Moonshot a relayé près de 300 000 requêtes de clients à Anthropic via un réseau de 5 380 comptes frauduleux, principalement localisés à Singapour et au Japon. Une partie des données transférées contenait des informations sensibles sur les utilisateurs, ce qui pourrait constituer une violation des règles de confidentialité.
Le rapport souligne également que les intentions des auteurs de recherches biologiques bloquées n’étaient pas claires, et le laboratoire impliqué n’a pas été identifié. Les travaux portaient sur des virus potentiellement dangereux, tels que le virus du chikungunya et une souche hautement pathogène de la grippe aviaire.
Source : Radio-Canada.
