Anthropic bloque des tentatives de fabrication d’armes biologiques via ses modèles d’IA
Publié le 10 septembre, le rapport d’Anthropic sur les « utilisations abusives » de ses modèles d’intelligence artificielle (IA) révèle des tentatives alarmantes d’utilisation malveillante de son chatbot Claude. Ce rapport note qu’au cours des huit derniers mois, Claude a été impliqué dans diverses activités néfastes, notamment la création de fausses applications de rencontres, des campagnes de cyberespionnage, ainsi que le développement d’armes à feu, de missiles et de drones.
Parmi les menaces recensées, les recherches visant à la mise au point d’armes biologiques suscitent particulièrement l’inquiétude des experts. Ces derniers soulignent que le risque que des modèles d’IA facilitent le développement d’agents pathogènes, qu’ils soient connus ou entièrement nouveaux, est l’une des préoccupations majeures liées à cette technologie en rapide évolution.
Un cas spécifique mentionné dans le rapport concerne une demande d’un scientifique en mai dernier, qui a sollicité l’aide de Claude pour rédiger une demande de subvention pour des recherches sur le chikungunya, une maladie virale. Les recherches dites de « gain de fonction » peuvent potentiellement mener à la création de superbactéries. Dans ce cas, le scientifique visait à modifier génétiquement le virus afin de le rendre plus virulent, une demande qui a été particulièrement préoccupante en raison de son association avec un institut de recherche militaire.
Jacob Klein, responsable des menaces chez Anthropic, a souligné la complexité de la situation, notant qu’il ne s’agit pas d’une simple intention malveillante, mais d’un contexte plus nuancé. Bien qu’Anthropic n’ait pas révélé l’identité des chercheurs ou des institutions concernées, la société a renforcé les dispositifs de sécurité sur ses modèles avancés pour éviter de telles dérives.
La microbiologiste Susan Monarez a également commenté que l’IA pourrait ouvrir la voie à des avancées médicales significatives, mais qu’elle pourrait également être exploitée par des individus mal intentionnés pour créer des agents pathogènes difficiles à contrôler.
Source : The New York Times.
