Au fil du Web

notes & signets

NotesBouquinsEcologieEuropeIdéesInternationalForêtPolitiqueNumériqueTwitter Tous les signets
 

⎆ notes

LePartisan.info

Continuously updated note

eye_trackers.jpg

I. Un monde sans contacts (et sans humains ?) régulé par les algorithmes

Les GAFAM, firmes américaines géantes côtées au NASDAQ, trompent les gens sous les dehors d'un service public gratuit, universel, ouvert 24h/24. Elles en ont les attributs mais nullement le statut. Assises sur un trésor de guerre égal au PIB de la France et de l'Allemagne réunies, elles captent 25% du marché publicitaire mondial. Point. En dernier ressort, elles n'ont de comptes à rendre qu'à leurs actionnaires, tout en travaillant en bonne intelligence avec la NSA. La plupart des victimes consentantes de la loi de Metcalfe (ou effet de réseau) qui remontent la file de leurs notifications vingt fois par jour n'en ont cure.

Le dynamisme entrepreneurial imprégné de culture libertarienne des géants du numérique est la clé de leur réussite. Pour en prendre la mesure lire par exemple l'enquête d' Eric Sadin, ou la somme ambitieuse de Shoshana Zuboff, L'âge du capitalisme de surveillance (2) .

« L’insoutenable vérité sur la situation actuelle, c’est que les États-Unis et la plupart des autres démocraties libérales ont abandonné la propriété et l’exploitation des données numériques aux acteurs du capitalisme de surveillance, qui, mus par des intérêts politico-économiques, concurrencent désormais la démocratie sur la question des droits et des principes fondamentaux qui définiront l’ordre social de ce siècle. » S. Zuboff

Zuckerberg et Cie aiment se présenter sans rire comme des entrepreneurs "citoyens", mais leurs décisions ne laissent pas d'inquiéter.

« Facebook a permis à la Russie d'interférer dans nos élections en 2016 et d'aider Trump. »
(Déclaration de la présidente lors d'une audition de Marc Zuckerberg devant une commission du Congrès)

Pour chevaucher la croissance exponentielle des flux, ils ont adopté les moyens et méthodes du trading à haute fréquence basé sur des algorithmes confidentiels. L'enjeu est de maintenir le système à flot en lui évitant de s'auto-détruire. Si celà peut rassûrer quelqu'un, chez Facebook, il y a (encore) en haut de la pile des décideurs bipèdes dotés d'un cerveau et d'un clavier...

Le magazine d’enquête Propublica dévoile que la direction de Facebook a cédé aux pressions d’Ankara lors de la campagne turque contre les forces kurdes syriennes en 2018. (...) C’est la directrice des opérations de Facebook elle-même qui a scellé le sort de la page officielle des forces kurdes syriennes (YPG), sur fond d’une campagne militaire turque sanglante sur le territoire syrien. (1)

II. Break them up ? or break them open ?


"Compte tenu du modèle économique de Facebook, fondé sur la violation de la vie privée et l'exploitation des consommateurs, Facebook n'aurait jamais dû être autorisé à acquérir WhatsApp. L'heure du démantèlement de Facebook a sonné. Il est temps d'agir. " peut-on lire dans The Guardian. En octobre 2020 encore, les membres démocrates de la commission anti-trust à la Chambre des Représentants votaient un rapport au vitriol prônant le démantèlement pur et simple des "Big Five"... Depuis la victoire de Joe Biden, candidat qui avait nettement les faveurs des géants de la Silicon Valley, l'idée semble enterrée.

Il faut réguler les Big Tech répètent en coeur les mieux-disants de tous bords. D'accord, mais comment faire avec 43 milliards de commentaires postés chaque jour sur Facebook (estimations) ? Face à ces chiffres sidérants, on conçoit que le temps de traitement d'un nouveau contenu en ligne ne puisse pas excéder quelques millisecondes... Est-il seulement soutenable de prétendre encore "réguler" quelque chose ? (non)

Actuellement chez Facebook, quelques milliers de petites mains appliquent les consignes d'un "guide interne des règles de modération" de 300 pages, qui n' est que partiellement public afin de ne pas tout dévoiler aux malfaisants qui cherchent à passer sous les radars.

Le problème, c’est que les réseaux sociaux veulent faire eux-mêmes leur modération, mais ça se passe mal pour des raisons politiques et managériales. Ils ont trop misé sur l’IA. Facebook et YouTube rêvent de supprimer la modération faite par l’humain. Mais comme je vous le disais, l’IA est comme une boite noire. Par exemple, les Chinois ont créé des bots qui sur YouTube, suppriment tout commentaire critiquant le parti en place. Ils sont parvenus à manipuler l’algorithme de YouTube pour lui faire faire ce qu’ils voulaient. C’est de la censure algorithmique. À la Sillicon Valley (j’y ai déjà travaillé un an) les algorithmes de modération automatisée font consensus : tout le monde veut revenir à une modération manuelle. Mais c’est un travail mal payé, au SMIC (parfois moins) aux États-Unis, et on a réalisé que la modération manuelle était très orientée pro-Trump… Olivier, Ingénieur en Intelligence Artificielle.

Souvenons-nous. En France, le compte Twitter du tueur de Samuel Paty, typique d'un salafisme radical, n’a pas été suivi ni fermé malgré plusieurs signalement au moins deux mois et demi avant son passage à l'acte (depuis juin 2020) -dont un signalement Pharos le 30 juillet 2020. La revendication du crime sur le compte immédiatement après les faits entraîna l'arrestation de l'assassin...15 minutes plus tard, et jeta l'effroi.

III. Modération privée et législation publique ne sont pas conciliables


Le Règlement Général sur la Protection des Données (2018) est européen, les GAFAMS sont américaines.

Cette ceinture de contention juridique qu'il suffirait de boucler en cliquant sur le bouton "accepter" ou "refuser" rate sa cible. Les négociations et les mises à l'amende n'affectent pas leur coeur de métier, le profilage des utilisateurs (3). Elle ne les contraignent pas non plus à réviser en profondeur leurs «conditions générales d'utilisation »(CGU). Pourquoi ? Parce que le développement de l'IA est intimement lié à l'industrie de l'extraction et du traitement des données (big data), et que tout le monde veut en croquer.

En multipliant les propositions d'assouplissement de la législation sur les services et les marchés numériques, l' UE ne s'oppose pas, elle s'adapte. En France, au terme de trois ans de procédure kafkaïenne, l'association La Quadrature du Net tire de ses démarches auprès de la CNIL (Commission Nationale Informatique et Libertés, l'autorité de "régulation") une conclusion sans appel : Cette commission officielle ne fait pas son travail pour faire appliquer le RGPD. Bien au contraire, les GAFAM échappent au RGPD avec sa complicité active ! Face à eux, seuls les groupes de presse européens, lourdement pénalisés par l'évaporation de leurs revenus publicitaires et le pillage de leurs publications, tirent un peu mieux leur épingle du jeu. Hors de la juridiction européenne, les simples citoyens continueront de réclamer en vain le droit à l'oubli, et la garantie que les données liées aux comptes "fermés" seront effectivement effacées.

La promotion massive de réseaux sociaux décentralisés s'appuyant sur l'interoperabilité des données numériques et sur un standard de messagerie ouvert tel que XMPP constituerait un contre-poids sérieux et à terme, une alternative, au processus de décervelage-privatisation-disciplinarisation-flicage de l'internet (4). Pour l'heure le constat est simple : Pas une seule instance internationale, pas un seul gouvernement, pas la moindre commission officielle n'en reprend l'idée, même avec des pincettes.

En marge des réseaux mainstream, des initiés, réfractaires, groupes complotistes et mafias, s'efforcent non sans succès de passer inaperçus au moyen du cryptage et de chaînes de serveurs décentralisés (Tor...) avec, par définition, zéro impact sur les habitus grand public. Le darknet est un bac à sable. Et le populo gavé de Netflix peut continuer d'échanger des photos de chatons et s'endormir sur ses deux oreilles. Parfait.

Le refus individuel et les appels à la désertion pure et simple apparaîssent dès lors comme la seule option pratique pour s'exfiltrer (un peu) de l'emprise du capitalisme de surveillance. Mais pour la plupart des pionniers désabusés du Net, "rien ne dit que ce sera efficace" (Laurent Schemla) (5) tellement l'usage est massif, intergénérationnel, addictif et protéiforme, et les enjeux sont sous-évalués. La marginalisation des voix critiques, éliminées - Aaron Swartz, E. Snowden, J. Assange...- ou noyées dans la masse, est assurée. Pour les dominants, c'est bien la seule chose qui compte. RIP Aaron Swarz.

IV. Le temps d'attention, nouvel eldorado du capitalisme de surveillance


L' exploitation des foules sentimentales requiert un système ultra-performant, capable de tirer parti de ce gigantesque vortex émotionnel, tout en l'empêchant d'imploser. Seule la combinaison deep learning (algorithmes d’apprentissage) > big data, radicalement étrangère à la notion de temps humain, peut s'acquiter de cette tache au meilleur coût.. Génial !

Les capitaux affluent vers l'I.A (6), promue nouvel eldorado du capitalisme de surveillance, avec pour seul impératif de lever ou contourner systématiquement les obstacles au pillage. Les Big Five se doivent donc de recruter et renouveler en permanence, par centaines de millions, de nouveaux serviteurs, tout en décourageant ceux qui seraient tentés de le faire, de partir. Un bon gros tiers de l' humanité est déjà dans la boîte, il reste de la marge. Automatiser à fond la machine à cash, virtualiser la vie à outrance en entraînant avec eux l'humanité dans la course à l'abîme, c'est leur dope.

LePartisan -10.04.21

(1) « Facebook a censuré les Kurdes syriens pour protéger son business en Turquie » Adrian Branco, 01.net
(2) Une recension critique de l'ouvrage de S.Zuboff : L’âge du capitalisme de surveillance : vers un capitalisme et une surveillance sans limites ? - Hubert Guillaud, internetactu.net, 20.01.2021.
(3) Google a remplacé les cookies par un traceur intégré à son navigateur "Chrome" -3/4 du marché des navigateurs- totalement invisible pour l'utilisateur. RGPD: Les amendes "pourront atteindre jusqu'à 6 % du chiffre d'affaires mondial pour les infractions aux règles sur les contenus, jusqu'à 10 % pour les enfreintes à la juste concurrence. En dernier recours, les menaces d'interdiction de service et de démantèlement sont même brandies. (...) L'européen Booking, les asiatiques AliBaba et ByteDance (TikTok), Samsung et Snapchatt pourraient aussi être concernés." Derek Perrotte, Le Figaro, 20 déc. 2020.
(4) L'interopérabilité dans un réseau ouvert et décentralisé est défendue aussi du côté des avocats de la régulation par la concurrence libre et non faussée !
(5)Laurent Chemla : Pionnier de l'internet, fondateur de Gandi, et premier français inculpé pour piratage en 1986 à partir d'un... minitel !
(6)
Les projections font état d’une multiplication par 56 des revenus mondiaux générés par les produits et services d’intelligence artificielle, passant de 644 millions en 2016 à 36 milliards de dollars en 2025.*

Bibliographie

Un document de synthèse accessible à tous, lecture recommandée :
La puissance des GAFAM : réalités, apports et dangers par Jacques Fontanel et Natalia Sushcheva, Annuaire français de relations internationales, Paris : La Documentation française, 2019, XX. hal-02196915.

Sélection d'articles:

Qui contrôle Facebook ? par Romain BADOUARD, AOC, 08 juin 2021
Déconstruire les dénis de l’I.A par Hubert GUILLAUD, internetactu.net, 15 Avril 2021
Facebook-sans-boussole-morale par Tristan NITOT
Facebook m'a banni par P.O.L - Blog Mediapart
Le désir mimétique de Mark Zuckerberg par Pierre TERRAZ - Philomag (payant)
Critique de facebook Wikipedia
Comment se protéger des GAFAM ? le Wiki d'Herminien
Contre le business des réseaux sociaux et leurs nuisances par LePartisan, 2 sept.2017


Le pire est déjà là.

  • Aux États-Unis, Amazon licencie ceux des livreurs de sa filiale (Prime) qui refusent d’être filmés toute la journée dans leur camion, parce qu'une clause d'acceptation est stipulée dans le contrat qu'ils ont dû signer pour être embauchés.

  • Dans les démocraties "à l'occidentale", une palanquée de poissons-pilotes tous plus nuisibles les uns que les autres -influenceurs, lobbyistes, chasseurs de têtes, startups débiles, communiquants et escrocs en tous genre- s'affaire dans le sillage des géants de la Tech. C'est dire que les problèmes posés par leur emprise ahurissante sur nos vies débordent largement la censure des contenus, et ne se réduisent pas à la fraude fiscale scandaleuse qu'ils pratiquent à grande échelle.

Cambridge Analytica n'a pas abusé de Facebook, ils ont utilisé Facebook - utilisé les services que FB avait mis en place et commercialisés auprès des malfrats politiques pour diffuser de la désinformation. C'est le système qui a fonctionné comme prévu. Cory Doctorow, trad. deepl.com

  • Dans les régimes totalitaires, de Moscou a Shanghaï, les réseaux et la hight-tech sous contrôle d'Etat surclassent les pires imprécations d'Orwell. Les régimes policiers décomplexés du 21ème siècle mixent notation sociale, surveillance numérique, désinformation et propagande à un niveau de sophistication jamais atteint.

Les chinois les moins bien notés peuvent se voir refuser le droit d’acheter des billets d’avion.

TikTok (plate-forme chinoise) se donne le droit de faire ce qu'il veut des vidéos publiées : les utiliser, les modifier, les reproduire sans que les utilisateurs n'aient leur mot à dire. UFC-Que Choisir


De l'ingérence des GAFAM dans les mouvements sociaux : un exemple français

A l'hiver 2018-2019 on a pu observer les effets pervers, directs ou indirects, de l'utilisation ultra-majoritaire de FB dans le mouvement des Gilets Jaunes en France. FB y tint le double rôle d'indicateur de police et de grand «organisateur» : pugilat virtuel permanent, main-mise des "admins", exclusions, éclatement en listes concurrentes, diffusion de fakes à vitesse intersidérale, manipulations diverses. Tout ceci contrebalançant largement l'effet "mobilisation": le mouvement s'est pour ainsi dire auto-intoxiqué, malgré les avertissements et diverses tentatives de démocratie directe (Assemblée des Assemblées) qui résultaient d'une exigence tout-à-fait légitime, mais étaient loin d'être représentatives.


Un peu d'anticipation

Qu' arrivera-t-il dans le monde réel, si la gestion du trafic routier se retrouve entre les mains des Google, Tesla, Lexus, Mercedes-Benz ? De relative, la dépendance aux injonctions des instruments de géolocalisation et aux pilotes automatiques embarqués deviendra absolue. Sur les autoroutes françaises privatisées on y est presque, en fait. Puis apparaîtront des voies-doublon "optimisées", c'est-à-dire réservées à leurs bagnoles "intelligentes". Il ne faudra pas oublier de régler la prime d’assurance avant de prendre le volant de votre Tesla flambant neuve, sans quoi la bagnole se chargera de vous le rappeler. Au troisième avertissement vous vous exposeriez au blocage du véhicule à distance. C'est ballot.


Permalien
09.03.2021

⎆ pin

@Yara-Al-Chikhanie

yara-al-chikhanie.jpg

Chercheuse en physiologie respiratoire à Grenoble, Yara Al Chikhanie a été choisie parmi 109 femmes de la société française pour incarner le visage de Marianne cette année. Une distinction qui vise à célébrer la France dans sa diversité et vient récompenser le travail de cette scientifique franco-libanaise de 28 ans, en première ligne pendant la crise sanitaire. Elle a soigné des patients atteints de Covid-19 au centre de réadaptation cardio-respiratoire de Dieulefit.


Permalien
08.03.2021

⎆ notes

Si le SMIC avait suivi l'augmentation de la fortune des milliardaires français entre 2006 et 2020, il serait à 5 250 €/mois. O_O


Permalien
25.01.2021
Pour chasser le mauvais oeil je m'abonne aux « Notes & signets » LePartisan.info