Le 3 avril, le média The Information révélait qu'Amazon allait progressivement abandonner sa technologie Just Walk Out, un système de caméras et de logiciels de reconnaissance automatique imaginé par Jeff Bezos dès 2012 qui promettait aux clients de vivre l'expérience « magique » de faire ses courses sans avoir à passer par la caisse. Entrez, remplissez votre panier et partez sans payer, le panoptique de l'IA s'occupe de tout. Entre le remplacement total du personnel humain, l'invisibilisation de l'acte d'achat et la collecte massive de données personnelles biométriques des clients, le système coche toutes les cases du fantasme patronal de contrôle cybernétique. Sauf qu'en guise d'IA magique, le système, déployé dans 20 magasins Amazon Fresh aux États-Unis, employait mille travailleurs indiens à distance pour regarder les images et attribuer correctement les articles aux clients. La machine ne fonctionnait que 30% du temps. Derrière la magie de l'intelligence artificielle, les monte-plats et les poulies du colonialisme de la donnée.
Difficile de trouver métaphore plus éclatante pour le phénomène de l'IA Potemkine, où des entreprises occidentales prétendent utiliser des systèmes d'intelligence artificielle alors qu'elles emploient en réalité des hordes de microtravailleurs payés au centime dans les pays du Sud. Cette délocalisation/dissimulation n'a pas commencé avec la hype actuelle autour des robots conversationnels, mais la fièvre post-ChatGPT est en train de faire exploser l'industrie de l'annotation de données. Cette « industrie derrière l'industrie derrière l'IA », comme la décrit Rest of World, pèse déjà autour des 2 milliards de dollars en 2023, et les oracles du capitalisme lui prédisent une croissance monstrueuse d'ici la fin de la décennie.