Qui sont ces jeunes influenceuses qui, le même jour, à la même heure, se sont postées en portant des uniformes qui ressemblaient à ceux des SS nazis ? Dans son podcast hebdomadaire, Expo part de ce mystère pour décrypter l'usage des contenus générés par intelligence artificielle pour promouvoir des idées nationalistes.

« L'IA peut être un outil utile, un divertissement amusant ou, pour certains, même un interlocuteur. Mais entre les mains de l'extrême droite, elle est également devenue un outil de propagande important », résume le magazine suédois spécialisé dans l'observation de ce champ politique.

L'IA pour « diffuser des discours trompeurs et amplifier les divisions sociales »

Le journal britannique The Guardian a également remarqué cette tendance, plutôt récente d'après lui : « Selon les experts, les élections parlementaires européennes de cette année ont servi de tremplin au lancement d'une campagne électorale générée par l'IA par l'extrême droite européenne, qui n'a cessé de se développer depuis. »

Cette « vague de contenus de droite générés par l'IA sur les réseaux sociaux » est spécifique à ce camp politique, qui ne s'embarrasse pas des considérations éthiques liées à l'usage de l'IA et ne dépeint pas la réalité. Pour les nationalistes en France, en Allemagne, au Royaume-Uni comme en Italie, l'IA sert à modeler une réalité fantasmée, à décrédibiliser des adversaires, ou simplement à créer du contenu facilement, sans avoir besoin de compétences préalables.

Après les élections européennes de 2024, « le rapport postélectoral de la Commission européenne a corroboré cette tendance, avertissant que les acteurs politiques avaient utilisé ce type de contenu pour “diffuser des discours trompeurs et amplifier les divisions sociales” », complète EUobserver. Et les conséquences sont toujours là, écrit le média européen : « 37 députés européens actuellement en fonction ont été élus sous la bannière de partis reconnus pour avoir utilisé des contenus générés ou manipulés par l'IA pendant la campagne : 29 issus du Rassemblement national, 8 de la Ligue [de Salvini, en Italie] et un de Reconquête. »

Grok antisémite et outil pédocriminel

La professeure d'histoire Michelle Lynn Kahn, de l'Université du Richmond (États-Unis), voit dans cet usage récent le résultat d'une longue histoire : « Des décennies avant l'intelligence artificielle, Telegram et les livestreams du nationaliste blanc Nick Fuentes, les extrémistes d'extrême droite ont adopté les débuts de l'informatique domestique et d'Internet. Ces nouvelles technologies leur ont offert un bastion de liberté d'expression et une plateforme mondiale. Ils pouvaient partager leur propagande, répandre la haine, inciter à la violence et gagner des adeptes internationaux comme jamais auparavant. »

Mais cela ne se limite pas aujourd'hui à la création de chatbots d'Hitler sur d'obscurs réseaux sociaux d'extrême droite, ou à des partages d'images racistes sur des comptes personnels. Certains modèles eux-mêmes sont teintés des idées d'extrême droite, note l'historienne : « Grok, le chatbot sur X d'Elon Musk, s'est récemment qualifié de “MechaHitler”, a tenu des propos antisémites haineux et a nié l'Holocauste. »

Ce même Grok a servi récemment à revictimiser des personnes, notamment des enfants, effacés des « Epstein files », remarque Bellingcat. Le média d'enquête en open source a dénombré au moins deux dizaines de tweets demandant explicitement à Grok de désanonymiser « notamment des photos montrant les corps visibles d'enfants ou de jeunes femmes, dont les visages étaient recouverts de cases noires ».

Ce n'est pas un phénomène isolé. À la fin de l'année dernière, « une analyse réalisée par le Center for Countering Digital Hate a révélé que Grok avait généré publiquement environ trois millions d'images à caractère sexuel, dont 23 000 représentant des enfants, en seulement 11 jours ». Que ce soit pour perpétrer des violences en ligne contre les femmes et les enfants ou pour partager au plus grand nombre une propagande raciste et mensongère, les modèles d'IA sont des outils de rêve pour l'extrême droite et les masculinistes.

C'est un modèle innovant pour encadrer l'attribution des subventions des mairies aux associations : la création de « commissions mixtes associant élus, techniciens et acteurs de la société civile » afin d'éviter « les risques de clientélisme » et de censure envers les structures les plus critiques de la majorité municipale. La revue Mouvements se penche sur deux approches de cette idée, mise en pratique par « deux collectivités pionnières » : Rennes et Grenoble. Dans ce double entretien, le média interroge Rozenn Andro, adjointe rennaise à la vie associative, et Diego Fernandez Varas, responsable du service « vie associative et citoyenne » de la mairie de Grenoble.

La plus en avance, c'est « Rennes, forte d'une "vieille histoire" de partenariat et de cogestion avec son tissu associatif », résume Mouvements en préambule. Dès 2006, la métropole bretonne a signé une charte avec une importante fédération locale d'associations, explique Rozenn Andro : la ville et les associations s'engagent depuis à répartir les enveloppes selon des objectifs communs. « Le débat ne porte pas sur "qui prend l'argent ?", mais sur "est-ce que ce projet sert nos priorités collectives ?". Cela déplace la discussion vers la coresponsabilité territoriale et donne une voix aux plus petites associations. »

À une échelle plus modeste, Grenoble expérimente un « comité d'avis consultatif [...] qui se concentre exclusivement sur le secteur de la culture » et émet un avis sur les dossiers de subventions, précise Diego Fernandez Varas. Même si « la décision finale revient aux élus », le fonctionnaire assure qu'il « est très rare que les élus aillent frontalement contre l'avis du comité. [...] Ces comités ont plutôt tendance à réduire la conflictualité. » Ces deux approches placent ainsi les mairies dans une démarche de négociation, plutôt que de confrontation, même avec les acteurs locaux qu'elles n'apprécient pas.