L’empoisonnement des données : une menace croissante pour le secteur de la santé

Alors que le domaine de la santé s’appuie de plus en plus sur l’intelligence artificielle (IA), cette technologie peut conduire à des actes d’ingérence et de sabotage des systèmes, notamment grâce à l’empoisonnement des données.

D’après un rapport récent de l’Organisation mondiale de la santé (OMS), près de 75 % des États membres de l’Union européenne utilisent déjà des outils d’intelligence artificielle dans le domaine de la santé, notamment pour l’imagerie médicale, la détection de maladies et l’aide à la décision médicale. L’IA transforme les soins de santé en améliorant la prévention, le diagnostic et le traitement des maladies. Face à des populations vieillissantes et à des soins de plus en plus complexes, elle aide les cliniciens à prendre des décisions plus éclairées.

Ce marché, estimé à 50 milliards de dollars d’ici 2025 et appelé à dépasser les 1 000 milliards de dollars d’ici 2035, a rapidement été investi par les leaders de l’IA. Des outils tels que ChatGPT Health et Claude for Healthcare illustrent cette tendance avec des solutions destinées à informer le public et à accompagner les professionnels de santé.

En mai, le CHU de Nice a lancé SKIN, un Tiers-Lieu d’Expérimentation visant à réduire les délais d’attente pour les consultations de dermatologie, qui varient actuellement de 100 jours à plus de 18 mois dans certaines régions.

Risques et conséquences de l’empoisonnement des données

L’IA peut faciliter des actes d’ingérence sophistiqués, menés par des attaquants qui se servent de l’empoisonnement des données pour compromettre ou saboter un système d’IA. En injectant de fausses données dans le processus d’entraînement, les cybercriminels peuvent induire le système en erreur.

Des études récentes, notamment celle menée par l’Université Carnegie Mellon, ont montré que la modification de seulement 0,1 % des données d’entraînement peut altérer le comportement d’un modèle d’IA. De plus, une étude publiée en octobre 2025 par des chercheurs des universités d’Oxford et de Zurich, ainsi que de l’Alan Turing Institute et de l’AI Security Institute, a révélé que seulement 250 documents corrompus suffiraient à causer des dommages sur l’ensemble des modèles testés.

Ces attaques sont particulièrement préoccupantes dans le secteur de la santé, où la fiabilité des modèles d’IA est cruciale. Si un modèle de diagnostic est entraîné sur des données d’imagerie médicale corrompues, il pourrait identifier à tort un tissu sain comme un indicateur de maladie ou ne pas détecter une affection grave, influençant ainsi les décisions cliniques et les résultats pour les patients. De plus, des données empoisonnées peuvent compromettre l’intégrité des résultats des essais cliniques et exposer des informations sensibles sur les patients.

Prévenir l’empoisonnement des données : les sauvegardes immuables, ultime ligne de défense

Des mes telles que les contre-mes anti-phishing fondées sur l’IA et la détection des malwares constituent des avancées significatives. Toutefois, elles n’éliminent pas complètement le risque, car les menaces générées par l’IA s’adaptent et les attaquants modifient constamment leurs tactiques.

Face à ces menaces, un stockage de sauvegardes doté d’une immutabilité absolue est désormais crucial. Ce type de stockage garantit que même un administrateur ou un attaquant ayant accès à l’infrastructure ne puisse modifier ou supprimer les données de sauvegarde, assurant ainsi la possibilité de récupérer les données, même en cas de défaillance des outils de détection ou de prise de contrôle par des acteurs malveillants.

Source : Organisation mondiale de la santé (OMS).