Should We Trust AI in the Search for Alien Life? Scientists Aren’t So
L’intelligence artificielle (IA) pourrait facilement tomber dans le piège d’identifier des non-vies comme de la vie sur d’autres mondes, affirment deux chercheurs de l’Université d’État du Michigan qui ont testé l’IA sur des formes de vie simulées dans un programme informatique. Christoph Adami, un biologiste computationnel, a déclaré à Space.com : « Nous avons précédemment constaté que l’IA a un grand talon d’Achille lorsqu’elle essaie de classifier des choses qui sont différentes de ses exemples d’entraînement. Nous appelons ces échantillons ‘hors distribution’, et il est incroyablement facile de tromper l’IA. »
Adami, connu pour son utilisation de la théorie de l’information dans l’étude de l’évolution, a conçu le programme Avida en 1993. Ce programme exécute des organismes numériques écrits sous forme de code, capables de se répliquer et de rivaliser pour des ressources, tout comme les organismes vivants. Bien que l’utilisation de la vie numérique dans les études évolutives soit controversée, cela lui a permis de créer un vaste ensemble de données sur des formes de vie simulées sur lesquelles l’IA peut être testée.
Au cours de trois mois d’analyse sur mille machines parallèles, Adami et son étudiant Ankit Gupta ont demandé à l’IA de déterminer quels programmes dans Avida avaient des propriétés de vie et lesquels n’en avaient pas. Les programmes de vie et de non-vie ayant un codage très similaire, la différence n’est pas évidente, ce qui pourrait également être le cas sur d’autres planètes.
Adami et Gupta ont commencé avec des programmes représentant une séquence aléatoire de molécules et ont demandé à l’IA de les classifier. Ils ont ensuite modifié cette séquence pour essayer de tromper l’IA en lui faisant croire qu’elle voyait de la vie, chaque changement étant suivi d’une vérification de la confiance de l’IA quant à sa classification.
« Environ 15 changements suffisent pour que l’IA soit parfaitement confiante dans une classification de vie alors qu’à aucun moment où elle était 100 % confiante, il ne s’agissait réellement de vie », a déclaré Adami. Peu importe la séquence de départ, l’IA était constamment trompée.
Malgré cela, de nombreux membres de la communauté scientifique défendent l’IA comme un outil précieux capable de traiter d’énormes quantités de données et de rechercher des motifs. Adami lui-même croit en un rôle important pour l’IA, mais reconnaît qu’elle est sujette à des erreurs et à l’identification de motifs inexistants.
Ce problème soulève des inquiétudes pour les missions visant à détecter la vie. Par exemple, si un rover martien coupe une roche et observe quelque chose qui ressemble à de la vie microbienne, la réponse sera claire et pourra être testée avec des méthodes traditionnelles. Cependant, de nombreuses tentatives de détection de la vie dépendront probablement de données de spectrométrie de masse, ce qui pourrait conduire à des résultats erronés.
Adami et Gupta prévoient de présenter leurs résultats en août lors de la Conférence sur la vie artificielle de 2026, qui se tiendra à Waterloo, au Canada.
Source : Space.com
