Des chercheurs du MIT développent une nouvelle méthode pour améliorer l’IA dans des situations critiques
Des chercheurs du Massachusetts Institute of Technology (MIT) ont mis au point une technique innovante visant à aider les modèles d’intelligence artificielle générative à trouver des solutions dans des contextes à enjeux élevés. Dans ces situations, une réponse plausible ne suffit pas : les résultats doivent souvent respecter des exigences de sécurité, physiques ou spécifiques à la tâche, connues sous le nom de « contraintes strictes ».
Cette nouvelle méthode permet aux modèles génératifs de répondre à ces exigences strictes sans compromettre la qualité de leurs résultats. L’approche clé consiste à offrir au modèle plus de liberté durant le processus de génération tout en imposant des contraintes strictes sur la sortie finale, plutôt qu’à chaque étape intermédiaire.
Des expériences menées dans les domaines de la robotique, du contrôle des processus physiques et de la vision par ordinateur ont montré que cette méthode satisfait systématiquement les contraintes requises tout en identifiant de meilleures solutions que les techniques existantes. Cette technique adaptable et prête à l’emploi peut être appliquée aux modèles génératifs préentraînés sans nécessiter de réentraînement, ce qui la rend plus utile dans des applications où les règles de sécurité et les lois physiques ne peuvent être enfreintes.
Navid Azizan, professeur associé au département de génie mécanique et à l’Institut pour les données, les systèmes et la société (IDSS), a déclaré : « La promesse de l’IA générative réside dans sa capacité à explorer un vaste espace de possibilités, mais le monde réel impose des limites sur les possibilités acceptables. Notre approche nous permet de préserver ce pouvoir génératif tout en respectant les exigences non négociables des applications critiques. »
Les modèles d’IA générative préentraînés, tels que les modèles de diffusion comme Stable Diffusion et les modèles d’appariement de flux comme FLUX, sont désormais largement disponibles. Ces modèles puissants apprennent à créer de nouvelles données en transformant du bruit aléatoire, ce qui permet une adaptation à une large gamme d’applications.
Dans des applications critiques pour la sécurité, comme la planification de chemins pour des robots sur un sol d’usine encombré, une réponse « quasiment correcte » peut ne pas suffire. Par exemple, un chemin « quasiment correct » entre deux machines pourrait entraîner une collision avec un collègue humain.
Pour ces applications, une technique appelée échantillonnage basé sur la projection est souvent utilisée, forçant les solutions partielles du modèle à respecter des exigences strictes durant le processus de génération. Cependant, contraindre l’ensemble du processus peut empêcher le modèle d’atteindre une meilleure solution finale.
Les chercheurs ont développé un algorithme nommé HardFlow, qui reformule l’échantillonnage sous contraintes strictes comme un problème d’optimisation de trajectoire. Cela permet de guider la trajectoire d’échantillonnage du modèle vers un objectif tout en effectuant des corrections subtiles, garantissant que la sortie finale respecte les contraintes imposées.
HardFlow a démontré une satisfaction parfaite des contraintes tout en surpassant les méthodes de référence en termes de qualité des solutions dans des expériences de manipulation robotique et de navigation dans des labyrinthes. Par exemple, il a permis à un manipulateur robotique d’éviter des collisions tout en trouvant le chemin le plus rapide vers un objet cible, avec un temps de calcul comparable ou inférieur à celui des méthodes concurrentes.
Les chercheurs envisagent d’étendre ce cadre à des contextes où le modèle d’IA peut également être mis à jour, permettant ainsi d’améliorer la satisfaction des contraintes et la qualité des échantillons de manière plus adaptative.
Source : MIT News
