Lors d’un entretien accordé au média The Register, Eric Brandwine, ingénieur émérite et vice-président d’Amazon Security, a fait part d’un constat peu réjouissant : l’être humain n’est plus capable de suivre le rythme de l’IA chez Amazon, particulièrement lors des phases de vérification étape par étape du travail effectué. Pour justifier la mise à l’écart de l’être humain durant ce processus, Eric Brandwine mentionne la théorie de la normalisation de la déviance.
Chez Amazon, l’être humain n’arriverait plus à suivre le rythme de l’IA
L’intelligence artificielle agentique est capable d’effectuer plusieurs dizaines d’actions à la minute, soit un rythme que l’être humain peine à suivre. C’est le constat d’Eric Brandwine, ingénieur émérite et vice-président d’Amazon Security. Pour ce dernier, l’être humain ne ferait plus le poids face à l’IA ; son exclusion de certains processus de travail serait dès lors inéluctable, particulièrement lors du processus de validation du travail effectué. Il explique : « Nous aimons penser que nous sommes tous très bons dans notre travail et que nous avons une haute opinion de nous-mêmes. Mais en réalité, les humains ne sont pas très constants ». Brandwine estime par ailleurs que les humains ont tendance à être « un peu trop attachés aux autres humains ».
Chez Amazon, chaque agent déployé en interne dispose de son propre identifiant. Chacune de ses actions est ensuite répertoriée avec l’indication qu’il agissait pour le compte d’un employé spécifique. Toutefois, l’être humain ne chapeaute plus l’ensemble du processus de travail. Si des garde-fous sont bel et bien placés, ce sont surtout des politiques dynamiques qui encadrent le travail. En d’autres termes, des êtres humains disent en temps réel à l’IA ce qu’elle peut faire et ne pas faire, mais ils n’effectuent plus un travail de validation étape par étape. Et en fin de compte, l’intelligence artificielle s’entraîne elle-même.
La théorie de la normalisation de la déviance
Pour appuyer son propos, Eric Brandwine mentionne la théorie de la normalisation de la déviance, formalisée par Diane Vaughan en 1996. Dans un premier temps, un groupe dispose de temps et de moyens pour effectuer des tâches. Tout se passe bien. Ensuite, ce groupe dispose de moins de temps et de moyens. La qualité du travail baisse et les différentes personnes commencent à contourner quelque peu les règles strictes mises en place afin d’effectuer les tâches en temps et en heure. Enfin, le temps et les moyens sont drastiquement réduits. La qualité du travail devient alors mauvaise et les personnes normalisent des déviances pour accomplir des tâches, tant qu’aucun incident grave ne survienne. Eric Brandwine explique : « C’est un piège auquel tout le monde est sujet, et l’une des histoires les plus déchirantes que j’ai lues dans ce domaine concernait les services d’urgences. On est entouré de machines qui n’arrêtent pas de biper. Le premier jour, on sursaute à chaque alarme, même si le patient va bien. C’est une fausse alerte. On retourne à son poste, on s’assoit, et au bout d’un moment, après suffisamment de fausses alertes, suffisamment de bips répétés sans conséquence réelle, on relâche sa vigilance et on cesse de réagir. Et finalement, un drame survient ».
Pour Eric Brandwine, la théorie de la normalisation de la déviance peut être totalement appliquée à l’intelligence artificielle implantée dans le monde du travail. L’être humain n’étant plus capable de suivre le rythme effréné de l’IA, il commence à adopter des comportements à risque. Le vice-président d’Amazon Security conclut en disant : « C’est pourquoi, chez Amazon, nous ne sommes pas de grands partisans de l’intervention humaine dans la boucle ». La supervision humaine étape par étape semble donc révolue chez Amazon. De son côté, Tesla a dû rappeler plus de 14 000 Model Y pour une étiquette manquante. La cause : un outil de vision par ordinateur a mal fonctionné. Le constructeur automobile a depuis introduit une vérification manuelle. Comme quoi, l’être humain peine à suivre le rythme de certaines technologies, mais il peut aussi éviter de sérieux problèmes.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
Source : The Register
