Quand l’art généré par l’IA n’a pas d’auteur : Une étude révèle que les images générées ne peuvent souvent pas être retracées aux données d’entraînement
Une nouvelle recherche menée par une équipe du Laboratoire d’informatique et d’intelligence artificielle du MIT (CSAIL) soulève des questions cruciales concernant la paternité des œuvres produites par des générateurs d’images d’intelligence artificielle. L’étude met en évidence un phénomène appelé « décroissance d’attribution », selon lequel l’importance des exemples de formation individuels diminue à me que le modèle est entraîné sur de grands ensembles de données. Les chercheurs ont constaté qu’il était souvent possible de retirer une image spécifique de l’ensemble de données d’entraînement sans affecter le résultat généré, ce qui complique la question de l’attribution.
Zheng Dai, chercheur au CSAIL et auteur principal de l’étude, explique : « Si vous retirez une donnée et que la sortie du modèle ne change pas, alors cette donnée n’a pas eu d’influence sur la sortie. » Cette découverte remet en question les méthodes traditionnelles d’attribution, qui reposaient sur des estimations approximatives de l’influence des exemples d’entraînement.
Les chercheurs proposent une nouvelle méthode qui permet de prouver de manière absolue que la suppression d’entrées spécifiques n’affecte pas la sortie. Cette méthode est décrite dans un article publié dans Nature Communications.
Pour tester cette hypothèse, les chercheurs ont développé une architecture appelée « ensemble de diffusion », composée de plusieurs composants plus petits, chacun entraîné sur une partie différente des données. Cette approche permet d’évaluer l’impact d’une image sans avoir à réentraîner le modèle dans son ensemble.
L’étude a été menée sur 24 ensembles de données, allant de 256 à plus de 160 000 images, et les résultats ont montré que plus l’ensemble de données était grand, plus la « distance » entre l’image originale et ses versions alternatives était petite, ce qui indique une décroissance d’attribution.
Les implications de ces résultats sont significatives pour le cadre juridique entourant la propriété intellectuelle des œuvres générées par des modèles d’IA. David Gifford, professeur au MIT, souligne que ces modèles créent des œuvres nouvelles qui ne peuvent être attribuées à des données spécifiques, ce qui soulève des questions sur le droit d’auteur et la compensation des artistes.
Cette recherche a été soutenue par Schmidt Futures.
Source : MIT News
