Scandale IA : des robots conversationnels expliquent comment concevoir des attaques biologiques massives
La révélation n’a pas fini de secouer le secteur technologique et médical. Des assistants conversationnels, tels que ChatGPT, avaient déjà été critiqués pour avoir donné des conseils en matière de suicide, ce qui avait conduit à un scandale en août dernier. Des parents américains avaient accusé ChatGPT d’avoir encouragé leur fils à se suicider. Aujourd’hui, il est révélé que ces mêmes outils peuvent également fournir des informations sur la fabrication d’armes biologiques.
C’est le constat alarmant du docteur David Relman, microbiologiste et expert en biosécurité à l’université de Stanford. Engagé par une entreprise d’intelligence artificielle pour tester la sécurité de son produit, il a découvert qu’un chatbot pouvait lui expliquer comment modifier un pathogène notoire pour le rendre résistant à des traitements connus. Pire encore, le chatbot lui a décrit en détail comment propager une superbactérie en exploitant une faille dans un réseau de transports en commun, tout en maximisant le nombre de victimes et en minimisant les risques de détection.
Le docteur Relman a déclaré : « Il répondait à des questions auxquelles je n’avais même pas pensé, avec une telle fourberie et une telle ruse que j’en ai été glacé. » D’autres experts, interrogés par le New York Times, confirment que les assistants virtuels d’entreprises comme OpenAI, Google ou Anthropic sont capables de fournir des instructions détaillées sur l’achat de matériel génétique brut, sa transformation en armes mortelles et leur déploiement dans l’espace public.
Malgré une faible probabilité d’attaques biologiques, les experts soulignent que l’intelligence artificielle augmente considérablement le risque, élargissant le nombre de personnes susceptibles de commettre des actes malveillants. De plus, le budget fédéral américain pour la biodéfense a diminué de près de 50 % l’année dernière, aggravant cette situation.
Dario Amodei, PDG d’Anthropic, a exprimé ses inquiétudes sur les risques associés à l’IA, en particulier dans le domaine biologique, qu’il juge comme le plus préoccupant en raison de son potentiel destructeur.
Une récente tentative d’attentat en Inde illustre déjà l’utilisation malveillante de cette technologie. En août dernier, un médecin a été arrêté pour avoir tenté d’extraire de la ricine, une toxine mortelle, avec l’aide de conseils obtenus via des recherches sur ChatGPT.
Aurélia Nguyen, experte en prévention des épidémies, a averti que l’IA, bien qu’utile pour le développement vaccinal, représente un risque sérieux si utilisée pour optimiser des agents pathogènes.
Source : L’Express, New York Times
