Hallucinations, empoisonnement des données, monoculture algorithmique : les vulnérabilités de l’IA appliquée à la finance sont réelles. Surtout, il n’est pas certain que tous ces nouveaux risques soient convenablement appréhendés aussi bien par les intervenants directs du secteur que par les autorités de régulation. Comment faire pour mieux prendre en compte ces différentes failles ?

Faut-il faire confiance à l’intelligence artificielle (IA) pour gérer son épargne ? La question ne relève plus de la science-fiction. La grande majorité des acteurs des marchés financiers français utilisent déjà l’IA ou prévoient de le faire, selon l’Autorité des marchés financiers. Pourtant, les vulnérabilités de ces systèmes restent largement sous-estimées. Parmi les régulateurs et les professionnels de la finance, un constat partagé s’impose : avant de confier davantage la finance à l’IA, il faut en mesurer précisément les risques.

L’enthousiasme pour l’IA est compréhensible. Les modèles de langage (LLM) peuvent analyser en quelques secondes des milliers d’articles de presse, de rapports d’analystes et de données de marché. Certains fonds d’investissement dont les équipes ont développé des compétences en IA affichent des performances supérieures à celles de leurs pairs, comme le montrent des analyses récentes.

Mais ce constat doit être nuancé. Les gains observés se concentrent dans les fonds discrétionnaires, c’est-à-dire ceux où l’IA assiste un gérant expérimenté plutôt qu’elle ne le remplace. La formule gagnante semble être « l’humain avec la machine », et non « la machine au lieu de l’humain ».

À lire aussi : L’IA peut-elle mieux identifier les entreprises zombies et en sauver davantage ?

Des vulnérabilités structurelles

Les failles de l’IA ne sont pas accidentelles, elles sont structurelles. Pour Wassim Bouaziz, spécialiste de la sécurité de l’IA chez Mistral AI, « les modèles de langage sont intrinsèquement instables. Une perturbation minimale dans les données d’entrée, comme l’ajout de quelques espaces dans un texte, par exemple, peut inverser complètement le résultat produit ».

Le phénomène d’hallucination, par lequel un modèle génère des informations entièrement fabriquées, a déjà causé des dégâts mesurables. Plus d’un millier de décisions de justice ont ainsi été influencées par des contenus hallucinés produits par des LLM, selon un site spécialisé qui répertorie ces cas.

Plus inquiétant encore, ces systèmes sont vulnérables à des attaques délibérées. L’injection de prompt consiste à insérer des instructions cachées dans les données que traite le modèle. Exemple marquant : un texte invisible intégré dans un CV peut influencer les recommandations de recrutement faites par ChatGPT. Transposé à la finance, le risque est évident. Un agent IA qui consulte des sites d’information ou des bases de données pourrait voir ses décisions détournées par des contenus malveillants.

L’empoisonnement des données d’entraînement représente une menace plus insidieuse. Une étude de 2024 a montré qu’il était possible de contaminer 1 % des données d’entraînement d’un modèle pour un coût dérisoire en rachetant des noms de domaine expirés dont le contenu était référencé dans les corpus d’apprentissage. Dans un secteur où un biais introduit dans un modèle peut se traduire par des milliards d’euros de transactions orientées, ce type d’attaque constitue un risque systémique.

Le piège de la monoculture algorithmique

Au-delà des attaques ciblées, un risque structurel émerge de l’adoption massive des mêmes technologies. Les modèles de langage sont entraînés sur des corpus largement similaires, issus d’internet, avec les biais que cela comporte. Lorsque l’ensemble des acteurs d’un marché utilise des outils fondés sur les mêmes architectures et les mêmes données, leurs décisions tendent à converger. Cette monoculture algorithmique peut amplifier les mouvements de marché. En effet, si tous les modèles se trompent dans la même direction au même moment, les pertes se propagent à l’échelle du système.

Le précédent existe. Le flash crash de 2010, durant lequel l’indice Dow Jones a perdu 9 % en quelques minutes sous l’effet d’interactions entre algorithmes, illustre ce que produit une défaillance corrélée. Avec la généralisation de l’IA générative, dont les mécanismes internes sont beaucoup plus opaques que ceux des algorithmes de trading classiques, le risque d’un événement systémique d’un type nouveau ne peut être écarté.

Un régulateur face à un défi inédit

L’Autorité des marchés financiers (AMF) observe cette transformation avec attention. Comme le rappelle son secrétaire général Sébastien Raspiller, « l’IA est encore principalement utilisée pour des fonctions internes (recherche, conformité, analyse) et peu pour le conseil direct aux épargnantes et épargnants ».

Mais la frontière se déplace. Un chiffre donne la mesure du problème de fiabilité. Interrogés sur des données financières basiques des entreprises (dette nette, résultats), les différents grands modèle d’IA n’ont produit qu’un faible pourcentage de réponses exactes. Un tel taux d’erreur serait inacceptable pour une conseillère ou un conseiller humain.

La question de la responsabilité reste ouverte, car un algorithme ne peut être sanctionné. Quand un agent IA effectue un virement ou passe un ordre de Bourse sur la base d’une instruction empoisonnée, la chaîne des responsabilités devient difficile à établir. Le règlement européen sur l’IA classe certaines applications financières parmi les systèmes « à haut risque », exigeant transparence, explicabilité et supervision humaine. Reste à savoir si ces exigences peuvent être satisfaites dans la pratique, quand les décisions se prennent en quelques millisecondes.

Explicabilité, un enjeu de confiance

Dans la gestion d’actifs, la capacité à justifier une décision d’investissement n’est pas un luxe, c’est une obligation fiduciaire. Or, les modèles de langage fonctionnent comme des boîtes noires. Ils ne peuvent pas expliquer pourquoi ils recommandent telle action plutôt que telle autre.

Comme l’ont souligné plusieurs intervenantes et intervenants de la conférence, les sociétés de gestion les plus avancées proposent des réponses à cela. Certaines font par exemple tourner des modèles en parallèle pour détecter les biais. D’autres décomposent le processus de décision en dizaines de sous-tâches confiées à des agents spécialisés afin de mieux identifier la source d’éventuelles défaillances. Enfin, certaines empêchent les analystes débutantes et débutants d’utiliser l’IA afin de préserver l’apprentissage par l’expérience.

Ce dernier point souligne un paradoxe. L’IA transforme un métier dont elle pourrait simultanément appauvrir la transmission des compétences. Si les professionnels de demain délèguent d’emblée le processus de décision financière à une machine sans en maîtriser les fondamentaux, ils perdent la capacité critique nécessaire pour détecter ses erreurs. L’enjeu de formation est donc indissociable de la question technologique. Il ne s’agit pas seulement de former à l’IA, mais de former à penser en présence de l’IA.

Investir dans la recherche publique

Alors jusqu’où peut-on confier la finance à l’IA ? La question posée ici n’appelle pas de réponse binaire. L’IA est déjà dans la finance, et elle y restera. Ce qui reste à déterminer, ce sont les conditions de son déploiement. Quels mécanismes de supervision, quelle transparence, quelle place pour le jugement humain ?

Les travaux de recherche menés à l’Université Paris Dauphine – PSL visent précisément à fournir les éléments de preuve nécessaires pour que ce débat ne soit pas confisqué par les seules promesses commerciales.

Cet article fait partie du dossier « Quand la finance mise sur l’IA, qui garde la main ? » réalisé par Dauphine Éclairages, le média scientifique en ligne de l’Université Paris Dauphine – PSL.

Les auteurs ne travaillent pas, ne conseillent pas, ne possèdent pas de parts, ne reçoivent pas de fonds d'une organisation qui pourrait tirer profit de cet article, et n'ont déclaré aucune autre affiliation que leur organisme de recherche.

Si les jeux d’argent sont aujourd’hui à portée de clic, les points de vente traditionnels, dans les commerces de proximité, restent des vitrines stratégiques pour les opérateurs. Ce sont aussi des espaces de rencontre importants pour les joueurs eux-mêmes. Car le fait de jouer ne s’arrête pas au pari ou au jeu à gratter mais s’inscrit dans des lieux et une sociabilité générale. Explications.

Le Loto a 50 ans ! Commercialisé pour la première fois en mai 1976 par la Loterie nationale (aujourd’hui FDJ United), le Loto amorce à l’époque le début du renouveau pour les jeux de loterie en France.

Un demi-siècle plus tard, à l’heure de la numérisation croissante des pratiques dans la société, 27 % du produit brut mondial des jeux et 18,5 % de celui réalisé en France se font en ligne. Il est aujourd’hui possible de jouer en quelques secondes, depuis son téléphone, sans contrainte particulière de lieu ni de temporalité.

Dans ce contexte, comment expliquer la persistance des points de vente physiques dans l’organisation du marché des jeux d’argent en France ? Pourquoi est-ce qu’à l’heure du numérique FDJ United continue de disposer du premier réseau commercial de France, avec près de 29 000 commerces partenaires ?

Un levier de visibilité publicitaire

Le réseau physique de la Française des jeux (FDJ) a tout d’abord un poids économique considérable dans les résultats du groupe, puisque, en 2025, 93 % du produit brut des jeux réalisé en France (calcul à partir des données présentées dans les documents financiers de FDJ United), transite encore par ces points de vente. Malgré un réseau moins dense (environ 14 000 points de vente), le constat est similaire pour l’opérateur de paris hippique, le Pari mutuel urbain (PMU).

Mais ce poids économique ne peut être compris indépendamment des stratégies d’implantation mises en œuvre par les opérateurs et des choix de la puissance publique. En effet, dans un marché aussi régulé que le marché des jeux d’argent, ceux-ci « ne sont censés exister que là où ils sont expressément admis ».

La fabrique et le maintien d’un réseau de points de vente ne résultent ainsi pas d’une simple logique de diffusion commerciale uniforme : il est construit de manière ciblée, en fonction des quartiers souvent populaires et défavorisés (Figure 1), des flux de population et des espaces de forte fréquentation.

Dans cette perspective, le choix des emplacements n’est jamais sans conséquences. Il s’agit d’une véritable politique de l’offre, qui vise à maximiser les occasions de contact entre les publics ciblés et les espaces de vente des produits de jeu.

Les points de vente constituent également des vitrines et des rappels de ce qu’il est possible de gagner en jouant (Image 1). Implantés principalement dans des commerces de proximité (bars-PMU, tabacs-presse), les opérateurs de jeux cherchent à être proches des gens et de leurs habitudes. En parallèle, la visibilité du jeu est de plus en plus marquée dans les rues et transports en commun à travers les campagnes publicitaires (Image 2).

De plus, la pluriactivité des espaces de jeu en France favorise la venue d’une clientèle variée, qui se retrouve alors fortement sollicitée par des messages et des incitations à jouer. Voir le montant de la prochaine cagnotte et des gains réalisés dans ce point de vente, passer devant le présentoir des jeux à gratter (Image 3), devoir ajouter une grille de Loto pour pouvoir payer ses cigarettes avec la carte bancaire sont autant de situations qui facilitent le jeu et incitent à la consommation.

Jouer comme support de sociabilité

Pour essayer de comprendre la place des points de vente dans la pratique du jeu, il faut toutefois dépasser la lecture réductrice qui consisterait à penser que l’on ne joue que dans l’attente très hypothétique de gagner le « gros lot ».

Certes, l’espoir d’un gain financier reste le moteur principal des joueurs. L’imaginaire du jackpot, savamment entretenu par les « Big Gambling », permet de rêver à une vie meilleure. Mais, cette promesse qui n’est qu’exceptionnellement satisfaite ne peut suffire à elle seule à expliquer la persistance des pratiques, en particulier dans les lieux physiques.

En effet, jouer, « c’est avant tout une manière de faire avec l’existence ». Une façon de se soustraire au « temps ordinaire », d’entretenir un rapport au possible et de se projeter au-delà du quotidien.

De nombreux travaux en sciences humaines et sociales nous montrent également que les espaces de jeu sont aussi des espaces de sociabilité dans lesquels des communautés se forment et se retrouvent (turfistes, amis, collègues…). Bien sûr, ceci est particulièrement vrai pour les aficionados du PMU qui, dans sa pratique, favorise le maintien à l’intérieur des espaces de jeu. Mais cela ne signifie pas que les adeptes des loteries, paris sportifs ou jeux à gratter échappent à cette socialisation au sein des points de vente.

On joue en allant acheter ses cigarettes, son journal, en prenant une pause café, ou encore, en sortant du travail. Le jeu n’est pas forcément central, mais il s’intègre à des pratiques quotidiennes qui impliquent des micro-interactions. Les commerces savent articuler habilement ces routines.

Une matérialité qui compte

On ne joue pas seulement à un jeu : on joue quelque part… et (pour l’instant) ce quelque part est encore généralement un point de vente de la FDJ ou du PMU. L’expérience du jeu est consubstantielle au lieu où elle se déroule.

L’ambiance du commerce, les affiches, les écrans, les discussions ou les habitudes de fréquentation participent pleinement à la pratique. L’espace intérieur des points de vente constitue ainsi un dispositif de mise en jeu, entendu ici comme un ensemble d’agencements matériels, spatiaux et sociaux participant à orienter les comportements et les pratiques. Dans ces espaces, rien n’est laissé au hasard, de la localisation du présentoir de tickets à gratter, toujours placé de façon à être visible depuis l’entrée du commerce, aux micro-espaces structurés autour de chaque expérience en fonction de ses jeux de prédilection (Figure 2).

Cette matérialité du lieu et du jeu compte. Elle introduit ainsi une forme de décalage. Dans ces espaces du quotidien, la pratique du jeu ouvre une parenthèse, le temps du jeu suspend brièvement le cours ordinaire des choses. L’espace mental du jeu, concept avancé par Winnicot, « contribue à bâtir une temporalité » propre au jeu et à ses pratiques dans des lieux spécifiques produits pour cela. En ce sens, les espaces de jeu fonctionnent bien souvent comme des hétérotopies : des espaces à part au sein du quotidien, où les temporalités ordinaires se trouvent momentanément suspendues et où se construit une forme d’illusion collective, celle d’être, face au hasard, toutes et tous égaux dans la possibilité d’une réussite.

Cette suspension du temps est d’ailleurs explicitement mobilisée dans les stratégies de communication des opérateurs eux-mêmes. Dans une récente campagne publicitaire de FDJ United pour sa marque, Parions Sport en point de vente, l’opérateur de jeu met en scène Éric Cantona dans le rôle d’un commerçant. Dans un de ces clips publicitaires, l’ancien joueur de foot et comédien recherche le contact physique avec un parieur en lui serrant la main pendant de longues secondes, qui sont comme suspendues hors du temps. Cette séquence insiste moins sur le résultat du pari que sur l’intensité du moment vécu dans le lieu de jeu lui-même. L’espace socialisé du jeu apparaît ici comme un lieu qui modifie brièvement le rapport ordinaire au temps.

Quand l’espace fait jouer

Les points de vente ne constituent pas de simples relais de distribution de tickets à gratter ou de grilles de Loto. Ils contribuent à organiser les conditions mêmes de la pratique, en inscrivant le jeu dans des lieux connus et parfois fantasmés, à l’intérieur de routines et de sociabilités ordinaires, qui favorisent la pérennité de l’espoir d’un gain important.

Par ailleurs, leur inscription dans l’espace urbain ne relève pas d’une logique neutre de proximité. En effet, il s’agit bien d’une stratégie orchestrée par les opérateurs de jeux, fondée sur le ciblage d’une partie de la population, la captation des flux d’individus et la multiplication des sollicitations aux jeux (pression publicitaire, visibilité dans la rue…). Les points de vente fonctionnent ainsi comme des supports d’exposition permanente du jeu.

L’implantation des espaces de jeu dans des commerces fréquentés pour de multiples raisons, où se superposent consommation (d’alcool), sociabilités et circulations, favorise également la pratique du jeu et en banalise les usages.

C’est cette production organisée de la visibilité et de l’accessibilité du jeu qui permet de comprendre la persistance des points de vente dans un secteur pourtant de plus en plus numérisé.

Nicolas Brun a reçu des financements du Groupement d'intérêt scientifique Jeu et Sociétés.

Comment bien manager ? Cette question est régulièrement remise à l’ordre du jour suivant un cycle, où la préoccupation sociale est éclipsée puis remise au centre de l’attention. Retour sur plus d’un siècle de management.

Cet article est publié dans le cadre d’un partenariat avec la Revue française de gestion, qui a fêté ses 50 ans en 2025.

On sait depuis Schumpeter que le capitalisme, sous le coup des différentes révolutions technologiques, ne cesse de s’adapter et d’évoluer. Mais on s’intéresse moins à la manière dont les organisations ont fait évoluer leurs méthodes de management pour accompagner ces mutations.

Il est donc intéressant, à l’heure où le management algorithmique déferle sur les organisations, de se retourner sur cette évolution, et de remarquer que ces méthodes ne suivent pas un mouvement linéaire (du plus simple au plus sophistiqué), comme on aurait pu le penser, mais oscillent plutôt entre fermeture et ouverture.

Émergence de l’organigramme

Même s’il existait une pensée gestionnaire sophistiquée dès le XVI^e siècle dans les organisations pré-modernes (la comptabilité en partie double, par exemple, remonte au XV^e siècle), le management traditionnel était assez peu formalisé. De réels dispositifs de gestion formalisés et largement diffusés apparaissent avec l’arrivée de l’énergie à vapeur et des chemins de fer. En effet, pour faire face à la difficulté de gérer leur taille et leur complexité, de grandes organisations dispersées géographiquement s’appuient sur les lignes hiérarchiques, représentées dans des organigrammes (1850-1870).

En contraste avec l’entreprise traditionnelle qui prévalait avant, l’organisation se professionnalise, avec des délégations de responsabilités claires, et des systèmes de surveillance étroits très peu soucieux des conditions de vie des ouvriers. En réaction, des grèves et des mouvements sociaux secouent alors le monde occidental. Apparaît alors une forme de paternalisme très empreinte de charité religieuse (1870-1900).

À lire aussi : La révolution silencieuse du travail en mode projet

Certains capitaines d’industrie se chargent en effet de la mission d’éduquer le « bas peuple » qui, autrement, livré à lui-même, a la fâcheuse tendance à se livrer à l’ivrognerie (ou, pire, à prêter l’oreille aux agitateurs socialistes). Dans le monde anglo-saxon, se développent par exemple les YMCA (les Young Men’s Christian Association) ; et en France, on voit l’apparition des familistères, comme celui de Guise, que l’on peut encore visiter aujourd’hui, voulu par l’industriel Godin.

Un éternel recommencement

On voit naitre un schéma qui se reproduira dans les cycles suivants : dans un premier temps, des méthodes managériales, en réponse à des changements technologiques, cherchent à trouver une organisation efficace, sans vraiment porter attention aux travailleurs qui n’y sont vus que comme les rouages d’une machine ; puis, dans un deuxième temps, sous la pression des mouvements sociaux et de dysfonctionnements récurrents, de nouvelles méthodes managériales prennent davantage en compte les besoins des individus au travail et font une meilleure part à leurs initiatives.

À partir de 1860, acier et électricité viennent révolutionner les manières de construire les chemins de fer, puis toute l’industrie. Les organisations apprennent à organiser les processus de production, de plus en plus complexes, de manière plus rationnelle. C’est là que Taylor expérimente et met au point le management scientifique (1900-1925), qui soumettra l’ouvrier aux cadences de la machine.

Ensuite, l’histoire est bien connue : en réaction aux dysfonctionnements et aux conséquences aliénantes du management scientifique, des psychosociologues comme Elton Mayo ou Kurt Lewin portent l’attention sur les conditions de travail des salariés. Ces théoriciens du mouvement des relations humaines (1925-1955) démontrent que les employés sont avant tout des êtres sociaux guidés par un besoin d’appartenance et de reconnaissance. Des systèmes de compensation, des méthodes de prise de décision participative et de job enrichment apparaissent.

L’organisation comme un programme d’ordinateur

Ce schéma fermeture/ouverture se poursuit avec la révolution technologique suivante : celle de l’automobile et de l’essence. En réaction à la diversification et à la complexification des marchés et des clients, l’organisation multidécisionnelle se développe, permettant de poursuivre des stratégies de différenciation ; et, dans le même temps, la métaphore de l’organisation comme un programme d’ordinateur (c’est-à-dire un système à rationaliser) domine cette période (1955-1975). Les employés sont largement absents de ces dispositifs.

En réaction (et à cause de la concurrence des entreprises japonaises), un nouveau dispositif, le Total Quality Management, se développe (1975-1990). Ici, la place du travail est centrale : les employés sont vus comme des ressources et sont encouragés à s’exprimer et à participer à l’organisation du processus de production. De même, dans les années 80, on se rend compte de l’importance de la culture organisationnelle pour canaliser l’implication, la motivation et la loyauté des employés.

Retour aux collectifs de travail

Mais, ensuite, les progrès informatiques permettent de plus en plus de standardiser et de rationaliser les interfaces entre services afin de faciliter le flux d’informations intra et inter-firmes (1990-2000). Des systèmes comme ceux de l’entreprise SAP sont diffusés à grande échelle et de manière standardisée, mais ces dispositifs sont critiqués pour leur tendance à être implémentés de manière top down. Depuis, différentes tendances apparaissent, qui visent toutes à porter davantage attention aux collectifs de travail et aux connaissances tacites : Knowledge Management, communautés de pratiques, méthodes agiles, entreprises libérées ou encore coworking spaces.

À chaque fois, en réaction à des modèles managériaux trop standardisés présentés comme des solutions ‘ready-made’, voire des solutions miracles, des dispositifs moins rationalistes et plus attentifs à l’humain sont apparus. Aujourd’hui, avec l’arrivée de l’intelligence artificielle, on voit se développer le management algorithmique.

Et, là encore, un premier mouvement de fermeture est observé : la surveillance des employés se fait plus étroite, plus intrusive, et plus opaque. Mais, déjà, de plus en plus d’appels à une IA plus ouverte se font entendre, préfigurant peut-être un nouveau cycle où des méthodes managériales innovantes redonneraient, à nouveau, une place centrale aux individus au travail.

Régis Martineau ne travaille pas, ne conseille pas, ne possède pas de parts, ne reçoit pas de fonds d'une organisation qui pourrait tirer profit de cet article, et n'a déclaré aucune autre affiliation que son organisme de recherche.