Une IA pour améliorer d’autres IA : les avancées d’Anthropic
Anthropic, une entreprise spécialisée dans l’intelligence artificielle (IA), a récemment annoncé des progrès significatifs dans l’automatisation de la recherche en alignement et de l’ingénierie logicielle. Selon un mémo interne, plus de 80 % du code développé par l’entreprise est désormais généré par son IA, Claude, contre moins de 5 % avant février 2025. En avril, des agents Claude ont résolu un problème ouvert de sécurité de l’IA en 800 heures de calcul cumulées, atteignant un taux de réussite de 97 %, alors que deux chercheurs humains n’ont obtenu qu’un taux de 23 % en une semaine.
Cependant, des voix s’élèvent parmi les chercheurs quant à la capacité d’une IA à conduire une recherche véritablement originale. Sayash Kapoor, chercheur à l’université de Princeton et coauteur d’une étude publiée le 18 août, souligne que les agents testés n’ont pas réussi à mener une recherche ouverte de manière autonome, abandonnant trop tôt des pistes prometteuses et négligeant les retours extérieurs. Cette étude a évalué uniquement deux articles rédigés par des agents, ce qui introduit une part de subjectivité dans l’évaluation.
Najoung Kim, professeure d’informatique à l’université de Boston, partage également des réserves sur la capacité des IA à mener une recherche véritablement ouverte. De son côté, Jack Clark, cofondateur d’Anthropic, a exprimé dans sa newsletter Import AI des doutes concernant la rapidité d’un éventuel scénario d’auto-amélioration de l’IA, en raison d’un manque perçu de créativité.
Ces avancées soulèvent des questions sur l’avenir de la recherche en IA et la possibilité d’une collaboration efficace entre humains et machines.
(Source : Clubic)
