Crimes en ligne : les réseaux sociaux complice
Ce que les récents assassinats racistes disent de notre inaction collective face aux plateformes.
Cet article a été initialement publié sur le site The Conversation (Licence Créative Commons). Auteur : Dominique Boullier, Professeur des universités émérite en sociologie. Chercheur au Centre d'Etudes Européennes et de Politique Comparée, Sciences Po
Meurtres racistes mis en scène sur les réseaux sociaux : le droit des médias doit s’imposer aux plateformes
Plusieurs crimes racistes récents (comme les assassinat commis à La Grand-Combe, dans le Gard, et à Pujet-sur-Argens, dans le Var) ont été annoncés, filmés ou commentés sur les réseaux sociaux, sans intervention efficace des plateformes. L’annonce et la mise en scène d’un crime, valorisés par les algorithmes, permettent désormais une visibilité sur les réseaux sociaux, constituant un élément attractif du passage à l’acte. Il est indispensable d’imposer à ces plateformes le cadre légal standard des médias, qui comporte une responsabilité éditoriale pour les contenus publiés.
La dimension médiatique des meurtres racistes auxquels on a assisté récemment est très frappante. Dans les deux cas, les auteurs présumés des faits ont annoncé leurs intentions sur les réseaux sociaux (sur Discord puis Instagram pour l’assassinat de La Grand-Combe, sur Facebook pour celui Puget-sur-Argens). Ces publications en ligne avaient précédé leur passage à l’acte, affichant pour le meurtrier d’Aboubakar Cissé, dans le premier cas, une « fascination morbide » (selon la procureure) sur son serveur Discord, et pour celui d’Hichem Miraou à Puget-sur-Argens, un racisme explicite et une intention de tuer, cette fois sur Facebook.
Un signalement avait même été transmis à la plateforme et à Pharos par des femmes présentes sur le serveur Discord du premier, mais sans aucun effet apparemment. Personne n’avait signalé, détecté ou dénoncé le second, qui annonçait clairement son intention de dire « stop aux islamistes » et de faire « un petit carton déjà rien qu’en sortant de chez lui, tous les sans-papiers ». Pire encore, le premier s’est même filmé pendant l’exécution et l’a diffusée en direct, tout comme le meurtrier de la mosquée de Christchurch en Nouvelle-Zélande l’avait fait en 2019. C’est à ce moment de la publication de cette vidéo sur Instagram que les deux anciennes membres du serveur Discord de l’auteur ont fait un nouveau signalement qui a entraîné le retrait de la vidéo par la plateforme. Et enfin à la suite de son crime, le meurtrier de Puget-sur-Argens a pris le temps de commenter et de justifier ses interventions dans quatre vidéos postées sur Facebook, sans aucune entrave ni modération.
Dans ces affaires, la distribution des responsabilités se fait avant même la conclusion de l’enquête à travers les médias, chaînes d’info et réseaux sociaux. La première tendance consiste à vérifier l’origine ethnique du meurtrier et à appliquer la grille de lecture habituelle sur les conséquences du laxisme en matière d’immigration. Mais, dans les deux cas, les meurtriers se trouvent être des Français sans marque particulière, ce qui oblige à changer de registre. Le cadrage stéréotypé ne fonctionne plus. D’autres font alors appel au cadrage plus large de la brutalisation ou de l’ensauvagement, largement propagé par des propos répétés du personnel politique ces derniers mois.
Ces cadrages ne sont pas seulement des effets de manche. Ils peuvent fournir une justification à certains qui veulent se faire justice eux-mêmes, tant ils sont frustrés de leur propre impuissance.
Ces deux cadrages stéréotypés, immigration et ensauvagement, conduisent à désigner des boucs émissaires que la viralité des réseaux sociaux amplifie largement, ce qui affecte même ceux qui ne seraient pas en contact direct avec les cibles dans leur vie quotidienne. Il faudrait suivre méthodiquement la propagation de ces phrases, de ces expressions qui s’insinuent ainsi dans tous les esprits, même pour les critiquer. Cela permettrait de donner corps à ce « racisme d’atmosphère », pour, à la fois, montrer qu’il ne peut effacer la responsabilité de certains émetteurs dans cette propagation mais aussi pour admettre qu’une fois lancés, ces termes deviennent des mèmes qui se propagent à la moindre occasion, comme des évidences prétendument partagées, comme un climat qui s’insinue dans nos vies malgré nous.
Mise en ligne et mise en scène : propager sa réputation
Doit-on alors accuser les plateformes de réseaux sociaux de cette contagion de la violence, de la banalisation du racisme, des propos de haine et de harcèlement grâce à la viralité des images et des propos ?
Leur responsabilité est certain,e mais à condition d’éviter les condamnations morales incantatoires. Il est, en effet, demandé aux plateformes de cibler certains émetteurs (dans le cas du terrorisme) ou de mieux modérer les contenus, mais cette recommandation ne sera contrôlée qu’après coup, c’est-à-dire, comme ici, trop tard, et jusqu’ici sans réelle sanction, malgré les menaces de la Commission européenne vis-à-vis de X.
S’il est exact que, dans les deux assassinats, les plateformes n’ont rien modéré du tout ou trop tard (avec la suppression de la vidéo de La Grand-Combe sur Instagram après signalement), cela n’est guère étonnant quand on sait qu’elles ont réduit leurs charges de personnel de modération partout dans le monde. Et quand bien même elles auraient eu les ressources humaines en place, cette détection après coup aurait nécessité une intervention très rapide des forces de police et de la justice, sommées d’adopter un rythme accéléré de traitement pour pallier les manquements des plateformes.
Or, la réputation gagnée en ligne par ces crimes contribue désormais au passage à l’acte. La mise en scène de ses intentions puis du crime et, enfin, des commentaires sur ces crimes constitue désormais un pattern qui doit alerter : la visibilité gagnée sur les réseaux sociaux constitue un des éléments attractifs du passage à l’acte. Selon les cas, on pourra parler d’enfermement dans une « bulle de filtre », lorsqu’une communauté de suiveurs, d’amis s’est constituée et reste à l’écoute.
Toutes leurs réactions (like, partages, commentaires) seront vécues comme autant de récompenses et de reconnaissance qui alimentent l’estime de soi souvent mise à mal dans la vie ordinaire. Dans d’autres cas, cela peut constituer une façon de provoquer l’attention d’un public hors de son cercle d’amis et de gagner ainsi en visibilité ou en réactivité, et donc en viralité. Le « score de nouveauté » d’une annonce d’un meurtre à venir est valorisé par les algorithmes des plateformes puisqu’il engendre un « taux d’engagement » élevé.
Un cadre légal clair et simple : les médias sociaux sont des médias
Dans ces deux cas, cibler a priori des populations à risque (terrorisme, ultradroite) ne suffit pas. Car les contenus porteurs d’indicateurs de haine et de harcèlement prolifèrent et sont accélérés par la viralité des réseaux qui offre la gloire instantanée et éphémère à de parfaits inconnus. Or, les plateformes ne détectent pas ces contenus pourtant illégaux, non pas parce que ce n’est pas techniquement faisable, mais parce que ce serait économiquement dommageable pour elles, pour leur modèle économique fondé sur les placements publicitaires sur des contenus à haut potentiel de viralité.
Il faut donc trouver un moyen légal de leur faire endosser cette responsabilité, et ce moyen est très simple : les faire revenir dans le cadre légal standard de tous les médias, qui comporte une responsabilité éditoriale pour tous les contenus publiés sur leurs supports. Dans les crimes en question, ces contenus auraient pu ainsi être modérés et supprimés avant même leur publication, comme le font les médias qui disposent de courriers des lecteurs par exemple. Chaque observateur peut constater que cela n’empêche pas la publication de propos d’orientation politique très différente ou de ton parfois très virulent, du moment qu’ils respectent la loi.
Pourquoi, donc, accepte-t-on de laisser ces plateformes encore sous un statut d’hébergeurs, régime qui date de 1996 et du Communications Decency Act états-unien qui était destiné à réduire la responsabilité légale des firmes d’opérateurs de téléphone, à une époque où aucun réseau social n’existait ?
Il est temps de changer radicalement et très simplement de point de vue en les traitant comme des médias. Tous les messages qui ont la forme d’appels à la haine, au racisme, à l’antisémitisme, à la violence, à la calomnie et à l’insulte seront ainsi filtrés a priori avant publication, sous la responsabilité des plateformes. Certes, ce sont des tiers qui publient, mais cela n’enlève rien au fait que ce sont elles qui leur donnent les moyens techniques et la visibilité qui atteint une échelle sans commune mesure avec celle d’un graffiti raciste dans la cage d’escalier.
Ces plateformes avanceront que, techniquement, elles n’ont pas les ressources pour tout filtrer avant les publications de milliards de messages par jour. Il suffira de leur rappeler leurs revenus des quinze années précédentes fondées sur une impunité totale : oui, elles auront l’obligation d’investir dans cette tâche, quitte à rogner sur leurs marges exorbitantes qui leur ont fourni leur actuelle toute-puissance, qu’elles utilisent même pour contrer l’État de droit. Elles afficheront le soutien du public qui criera à la censure, sans aucun doute, et se vanteront d’être les championnes de la liberté d’expression, comme a su si bien le faire Elon Musk, avec son sens aigu de la modération et de la liberté d’expression qu’on observe sur X.
Mais il faudra leur rappeler précisément qu’elles ont pratiqué depuis longtemps des choix éditoriaux et qu’elles ont donc elles-mêmes censuré bon nombre d’expressions. Ce qu’il ne faut pas leur reprocher, mais au contraire utiliser pour exiger qu’elles assument leur rôle d’éditeur avec toutes les responsabilités légales sur tout contenu publié par leurs clients. Lorsque les conditions du pluralisme sont remplies dans les pays démocratiques, il devrait être tout à fait possible de quitter une plateforme dont on désapprouve la politique éditoriale pour aller sur une autre, exactement comme on le fait avec les mass médias. On peut même faciliter ces migrations en obligeant à la portabilité des données et des réseaux d’amis qu’on a ainsi constitués.
Qu’on mesure bien la faillite de ces plateformes pour la vie sociale et leur responsabilité directe dans la propagation d’appels au crime qu’on observe. Comment peut-on encore en rester au laisser-faire de toutes les années 2010 où le dogme libéral exigeait de ne jamais freiner le business ni l’innovation ? L’idéologie libertarienne, qui domine à la tête de ces plateformes, ne peut plus être associée aux idéaux des débuts d’Internet et du Web qui ont été trahis au profit d’une excitation générale des internautes, d’une emprise sur l’attention des publics pour générer toujours plus de revenus publicitaires. Le souci du bien commun, du débat public, de la santé mentale des internautes et de la sécurité des citoyens a disparu de leur agenda.
Les règlements européens se limitent à des demandes de transparence qui ne sont jamais respectées tant les algorithmes deviennent encore plus opaques avec les IA génératives, et à des principes de reporting sur les efforts faits pour modérer les contenus. Or, on le voit encore avec ces crimes récents publiés en ligne, les quelques efforts, qui avaient été faits après Cambridge Analytica, ont été réduits au service minimum et n’étaient de toute façon pas efficaces. Le rythme des propagations, la viralité, est le critère clé qui rend toute modération a posteriori impuissante. Il est temps de changer de méthode et de cesser d’inventer des exceptions légales pour traiter un problème créé de toutes pièces par les plateformes et leur modèle économique publicitaire.
Le choix est donc clair et la solution très simple si la volonté politique existe. Tous les contenus publiés sur les plateformes seront de la responsabilité légale de ces mêmes plateformes, car elles seront désormais assimilées à des médias.
L’Autorité de régulation de la communication audiovisuelle et du numérique (Arcom) doit les réguler de la même façon, en allant, s’il le faut, jusqu’à leur interdiction d’opérer sur le territoire français, si elles ne respectent pas ce cahier des charges. Puisque le cadre européen s’avère insuffisant, que le danger pour la sécurité publique est désormais avéré, l’État doit donc prendre l’initiative pour recadrer ces réseaux sociaux qui sont en fait des médias sociaux, certes des médias appuyés sur de fortes contributions des internautes mais des médias cependant.
Des faits aussi graves que les deux homicides qui viennent d’être commis, avec la publicité qui leur a été donnée avant, pendant et après leur exécution, sur les plateformes demandent une réaction à la hauteur du risque social ainsi créé. Mais cela doit se faire non pas en réagissant de façon_ ad hoc_, mais bien en révisant le statut légal de ces plateformes, pour celles qui sont devenues des médias et des éditeurs.
Cet article a été initialement publié sur le site The Conversation (Licence Créative Commons). Auteur : Dominique Boullier, Professeur des universités émérite en sociologie. Chercheur au Centre d'Etudes Européennes et de Politique Comparée, Sciences Po
(Titre et chapeau de la rédaction de la newsletter)
Que peut -faire la société de farfelus ?
ma réponse personelle est des réseaux de farfelus, pour des gens sans cerveaux , sans éducation
des reseaux pour fabriquer des abrutis , des connards, qui sont inexcusable , car pas d'instruction civique, ni éducation de la part de leurs parents , le prendra qui voudras !