L’IA dépasse l’humain chez Amazon : la surveillance devient impossible
L’intelligence artificielle (IA) agentique chez Amazon a désormais dépassé les capacités humaines de suivi, rendant la supervision humaine étape par étape de plus en plus difficile. Eric Brandwine, vice-président d’Amazon Security, évoque la théorie de la normalisation de la déviance pour expliquer les risques liés à cette évolution.
Lors d’un entretien avec le média The Register, Eric Brandwine a souligné que l’être humain n’est plus en me de suivre le rythme de l’IA, notamment lors des phases de vérification du travail effectué. Il justifie la mise à l’écart de l’humain dans ce processus par la théorie de la normalisation de la déviance.
Chez Amazon, l’être humain n’arrive plus à suivre le rythme de l’IA
L’IA agentique est capable d’effectuer plusieurs dizaines d’actions par minute, un rythme que l’être humain a du mal à égaler. Selon Brandwine, l’inévitable exclusion des humains de certains processus de travail, en particulier lors de la validation du travail, est désormais une réalité. Il déclare : « Nous aimons penser que nous sommes tous très bons dans notre travail, mais en réalité, les humains ne sont pas très constants. »
Chaque agent déployé chez Amazon possède un identifiant unique, et ses actions sont répertoriées comme étant effectuées pour le compte d’un employé spécifique. Toutefois, l’être humain ne supervise plus l’ensemble du processus. Bien que des garde-fous existent, ce sont surtout des politiques dynamiques qui régissent le travail. En somme, les humains indiquent à l’IA ce qu’elle peut faire en temps réel, mais ne valident plus étape par étape. L’IA s’entraîne donc elle-même.
La théorie de la normalisation de la déviance
Pour étayer son propos, Brandwine fait référence à la théorie de la normalisation de la déviance, développée par Diane Vaughan en 1996. Initialement, un groupe a le temps et les ressources nécessaires pour effectuer ses tâches. À me que ces ressources diminuent, la qualité du travail s’en ressent et les membres commencent à contourner les règles pour respecter les délais. Finalement, lorsque les ressources sont largement insuffisantes, la qualité du travail devient médiocre, et les déviances deviennent la norme tant qu’aucun incident grave ne se produit.
Brandwine illustre cette théorie par des exemples issus des services d’urgence, où une multitude d’alarmes finit par créer une désensibilisation qui peut mener à des drames. Il conclut : « C’est un piège auquel tout le monde est sujet. »
Pour Brandwine, cette théorie s’applique parfaitement à l’intelligence artificielle dans le monde du travail. L’incapacité des humains à suivre le rythme de l’IA les pousse à adopter des comportements à risque. Ainsi, il indique que chez Amazon, l’intervention humaine dans la boucle est de moins en moins privilégiée.
En comparaison, Tesla a récemment rappelé plus de 14 000 Model Y en raison d’une étiquette manquante, causée par un défaut d’un outil de vision par ordinateur. Ce rappel souligne que, malgré les avancées technologiques, la supervision humaine reste cruciale pour éviter des problèmes sérieux.
Source : The Register
