Un avocat condamné pour avoir soumis un faux témoignage généré par ChatGPT
La Cour suprême du Nouveau-Mexique a infligé une amende de 5 000 dollars à l’avocat Stephen Aarons pour avoir présenté un mémoire contenant des témoignages fictifs générés par l’intelligence artificielle ChatGPT d’OpenAI. Cette décision met en lumière les dangers de l’utilisation non régulée de l’IA dans le domaine juridique.
Stephen Aarons, qui défendait un client accusé de meurtre, a déposé un document comprenant des témoignages de policiers et de témoins entièrement inventés. La Cour a déclaré que le dossier contenait « de faux témoignages provenant de témoins entièrement inventés ». Aarons a été reconnu coupable d’outrage à la cour pour ne pas avoir vérifié l’exactitude des informations soumises.
Le collège de juges a noté un « manque de remords et d’indifférence envers son client », conduisant à sa sanction financière et à une recommandation pour une enquête disciplinaire. Aarons a affirmé qu’il avait utilisé ChatGPT pour résumer le procès, sans comprendre que l’IA pouvait « inventer de toutes pièces » des faits. Il a exprimé des remords, espérant que la commission disciplinaire tiendrait compte de son intention.
Cette affaire s’inscrit dans un contexte plus large où plusieurs avocats ont été sanctionnés pour avoir déposé des documents non vérifiés générés par des outils d’IA, certains ayant même cité de fausses références juridiques. Le cas d’Aarons est particulièrement préoccupant, car il a inclus des déclarations fictives dans un appel pénal.
La Cour suprême a demandé à Aarons d’expliquer comment ces éléments inventés avaient été intégrés à son document. Lors d’une audience, il a expliqué qu’il avait fourni à ChatGPT des documents relatifs à l’affaire, pensant que l’outil produirait un « résumé irréfutable ». Les juges ont exprimé leur incredulité face à son manque de conscience des erreurs potentielles de l’IA.
Cette situation soulève des questions sur la responsabilité des avocats dans l’utilisation de l’intelligence artificielle et les implications pour la justice.
Source : Reuters
