Sous l’emprise des réseaux sociaux
Alerte : entre algorithmes biaisés et décisions politiques masquées, les plateformes numériques conditionnent nos vies au service de leurs intérêts économiques.
Cet article a été initialement publié sur le site The Conversation (Licence Créative Commons). Auteurs : Aurélie Leclercq-Vandelannoitte, Chercheuse, CNRS, LEM (Lille Economie Management), IÉSEG School of Management et Emmanuel Bertin, Expert senior, Orange. Professeur associé, Télécom SudParis – Institut Mines-Télécom.
Plateformes et réseaux sociaux : derrière l’illusion de la neutralité, un vrai pouvoir d’influence
Présentées comme des espaces de liberté, les plates-formes numériques conditionnent en réalité nos comportements. Et depuis le rachat de Twitter par Elon Musk, qu’il renomme par la suite X, la façade de neutralité s’effondre. Après son implication et celle de son réseau dans la campagne de Donald Trump, les utilisateurs sont de plus en plus nombreux à quitter le navire pour chercher des espaces numériques qui remplissent cette promesse originelle. Peine perdue ?
Les grandes plateformes numériques de Meta (Instagram, Facebook), TikTok ou X (anciennement Twitter) exercent une forme de pouvoir sur leurs utilisateurs, et à travers eux sur nos sociétés. Mais quelle est la nature de ce pouvoir ? Nous nous sommes intéressés à cette question dans un travail de recherche récemment publié.
Nous proposons une perspective issue des travaux de Michel Foucault. Le philosophe a en effet consacré la majeure partie de son œuvre à l’étude des mécanismes d’exercice du pouvoir au cours de l’Histoire.
Les plates-formes orientent les comportements de leurs utilisateurs
La première question à se poser est de savoir si ces plates-formes cherchent à exercer un pouvoir, c’est-à-dire, au sens de Foucault, à « conduire les conduites » de leurs utilisateurs. Autrement dit, on doit se demander si ces plates-formes sont simplement des outils techniques ou des outils de gouvernement des personnes.
Un outil technique peut certes influencer notre façon d’appréhender le monde (« Toute chose ressemble à un clou, pour celui qui ne possède qu’un marteau », écrivait le psychologue américain Abraham Maslow), mais ne vise pas dans sa conception même à produire un certain type de comportement. Ainsi, un traitement de texte comme Word, malgré un nombre d’utilisateurs qui n’a rien à envier à celui des plates-formes, reste un outil technique.
A contrario, les plates-formes numériques cherchent à produire un certain type de comportement chez leurs utilisateurs, d’une façon liée à leur modèle économique. Une plate-forme sociale comme X ou Facebook vise ainsi à maximiser l’engagement des utilisateurs, en les exposant à des contenus dont leur algorithme a déterminé qu’ils les feraient réagir. Les contenus mis en avant sont ceux susceptibles de produire des émotions intenses afin de pousser les utilisateurs à les relayer vers leurs contacts puis à en guetter les réactions, et ce faisant, maximiser leur temps passé sur la plate-forme et donc leur exposition aux publicités. Autre exemple : le jeu Pokemon Go, conçu par la firme Niantic (fondée par Google), guide ses utilisateurs vers les restaurants ou magasins qui ont payé pour cela.
Quand les réseaux sociaux remplacent le pasteur
Dans ses écrits sur le libéralisme, Foucault décrit comment la liberté devient un instrument de pouvoir bien plus efficace que la contrainte, car guidé par l’intérêt particulier de chacun. Par exemple, lorsque l’État met en œuvre des incitations fiscales, il joue sur l’intérêt particulier pour obtenir un comportement souhaité, plutôt que sur la contrainte. Dans le modèle des plates-formes sociales, cette liberté est guidée par les émotions, notamment l’indignation, ce qui conduit par exemple X à rendre le plus visible les publications les plus controversées. À partir d’un certain seuil, cela a un impact indirect sur l’ensemble de la société, en donnant par exemple une grande audience à des publications complotistes ou de désinformation.
S’il est clair que ces plates-formes exercent un pouvoir sur leurs utilisateurs, comment peut-on le caractériser ? Il nous semble qu’il s’inscrit dans un type de pouvoir décrit par Foucault : le « pouvoir pastoral », ainsi nommé en référence à la figure du pasteur, qui à la fois guide son peuple dans son ensemble et connait individuellement chacun de ses membres. Autrement dit, ce type de pouvoir est à la fois englobant et individualisant (« Omnes et Singulatim », comme l’écrit Foucault). Englobant, car les plates-formes gèrent tous leurs utilisateurs avec les mêmes technologies et algorithmes, ce qui permet des économies d’échelle massives. Individualisant, car elles s’adaptent de façon ciblée à chaque utilisateur afin de maximiser sa conformité au comportement souhaité.
Les technologies de capture et d’exploitation massive de données permettent de porter cette individualisation à un niveau jamais atteint auparavant. Ces technologies ne visent pas explicitement tous les aspects de la vie, mais cherchent tout de même à en capturer le maximum d’information, y compris via les objets connectés.
L’illusion de la neutralité
La création d’un pouvoir pastoral entièrement désincarné, car s’exerçant à travers une plate-forme purement numérique, est une nouveauté. Là où le rôle de pasteur s’est incarné dans l’Histoire par des clercs puis par les représentants de l’État, il n’est désormais plus une personne, mais une plate-forme. À certains égards, cela pourrait apparaître comme un progrès : la plate-forme est apparemment neutre, elle ne favorise personne et n’a pas d’intérêt personnel. Ses algorithmes sont censés être objectifs, hormis sans doute avec quelques biais venus de leur programmation, mais qu’il suffirait d’identifier pour les corriger. Tout cela n’est pourtant qu’une illusion, et Elon Musk le démontre clairement depuis son rachat de Twitter en octobre 2022.
Car les plates-formes ont un propriétaire, et dans le monde de la tech ce propriétaire est la plupart du temps un homme seul (à l’exception d’Alphabet, société mère de Google, contrôlée par deux hommes). Jusqu’à Elon Musk, ces propriétaires cultivaient l’illusion de la neutralité, se retranchant derrière de nobles discours promouvant le bien de l’humanité, le rejet des actions mauvaises (selon l’ancien slogan informel de Google : « Don’t be evil ») ou mettant en place des comités éthiques, purement consultatifs.
Avec Musk à la tête de Twitter, les masques tombent
Elon Musk fait voler en éclat cette façade, en supprimant explicitement les équipes de modération ou les mécanismes de suppression de faux comptes (qui propagent usuellement de fausses nouvelles), ouvrant ainsi la porte à une vague de contenus complotistes. Et cela tout en se faisant en même temps passer pour un utilisateur quelconque de X, en relayant des contenus parfois eux-mêmes proches du complotisme, ou en faisant activement campagne pour Trump.
Avant Elon Musk, le bannissement de Trump de Twitter par Jack Dorsey, son précédent propriétaire, pouvait d’ailleurs être tout autant considéré comme une décision politique, mais réalisée sous couvert d’une « violation des conditions d’utilisations », afin de préserver l’illusion de neutralité de la plate-forme.
Pour autant, Elon Musk n’est pas le pasteur de X, pas plus que Zuckerberg, celui de Facebook ou Instagram, c’est bien la plate-forme qui joue ce rôle. Mais derrière la façade, ces plates-formes sont bel et bien sous l’influence de leur propriétaire qui peut modifier telle règle ou tel paramètre algorithmique de façon discrétionnaire en fonction de ses objectifs – et dans le cas d’Elon Musk, de ses opinions politiques.
Cet article a été initialement publié sur le site The Conversation (Licence Créative Commons). Auteurs : Aurélie Leclercq-Vandelannoitte, Chercheuse, CNRS, LEM (Lille Economie Management), IÉSEG School of Management et Emmanuel Bertin, Expert senior, Orange. Professeur associé, Télécom SudParis – Institut Mines-Télécom.