Un système pour aider les humains à prédire les erreurs des voitures autonomes
Des chercheurs du Massachusetts Institute of Technology (MIT) et de la société de technologie automobile autonome Motional ont développé une méthode visant à améliorer la compréhension des décisions prises par les voitures autonomes. Ces véhicules, souvent contrôlés par des modèles d’apprentissage profond, peuvent parfois commettre des erreurs inattendues, comme freiner brusquement et bloquer la voie d’un véhicule d’urgence.
La nouvelle méthode, dénommée Concept-Wrapper Network (CW-Net), permet d’expliquer de manière claire les décisions des modèles sous-jacents sans altérer leurs performances de conduite. CW-Net traduit le raisonnement complexe des modèles en concepts compréhensibles tels que « véhicule arrêté à proximité » ou « proche d’un cycliste ». Ces explications visent à corriger les idées fausses que les conducteurs et passagers peuvent avoir sur le comportement des véhicules et à améliorer leur conscience situationnelle.
Des tests sur route ont montré que les explications fournies par CW-Net aidaient les conducteurs de sécurité à mieux anticiper le comportement du véhicule. Une étude de simulation plus large avec des utilisateurs non experts a produit des résultats similaires. En fournissant des retours importants aux ingénieurs, CW-Net pourrait à terme renforcer la sécurité et la transparence des véhicules autonomes tout en établissant une confiance appropriée chez les conducteurs et passagers.
Julie Shah, professeur au MIT et co-auteur de l’étude, souligne l’importance de rendre ces technologies fiables et prévisibles pour garantir leur utilisation en toute sécurité. Le projet a été réalisé en collaboration avec plusieurs chercheurs, dont Eoin Kenny, ancien postdoctorant au MIT et maintenant chercheur senior en IA chez J.P. Morgan Chase.
Les chercheurs ont intégré CW-Net dans l’architecture existante des planificateurs d’apprentissage automatique des véhicules autonomes, permettant ainsi à ce module d’expliquer les décisions du véhicule en temps réel. En utilisant un ensemble de données de 130 millions d’exemples de scènes de voitures autonomes, CW-Net a été formé pour prédire des concepts dans une variété de contextes.
Lors de tests sur un robotaxi Motional, CW-Net a aidé le conducteur de sécurité à mieux comprendre pourquoi le véhicule avait pris certaines décisions, comme s’arrêter lorsqu’il approchait un cycliste. Ces informations peuvent également être utilisées pour améliorer les systèmes d’IA des véhicules, réduisant ainsi les risques d’erreurs futures.
Les résultats de cette recherche sont publiés dans la revue Nature.
Source : MIT News.
