Contre la haine en ligne

édito du 4 novembre 2023

Les récents et dramatiques événements au Moyen-Orient ont, une nouvelle fois, révélés le rôle des réseaux sociaux dans la diffusion des contenus haineux sur Internet déjà mis sur la sellette lors des affaires de harcèlement.

Haines antisémites, anti-arabes, antidémocratiques, soutien aux terroristes, manipulation des informations, fausses images, les réseaux sociaux participent à la crise démocratique et à la désinformation de leurs utilisateurs avec des conséquences dramatiques dans notre pays.

 En l’état actuel du droit, les réseaux sociaux voient leur responsabilité limitée en raison de leur statut d’hébergeur.

L’hébergeur est la personne physique ou morale qui assure, même à titre gratuit, pour mise à disposition du public par des services de communication au public en ligne, le stockage de signaux, d’écrits, d’images, de sons ou de messages de toute nature fournis par des destinataires de ces services. Sa responsabilité n’est engagée que dans l’hypothèse où des contenus litigieux sont portés à sa connaissance par notification et qu’il n’en suspend pas promptement la diffusion.

A la différence de l’éditeur (pleinement responsable des contenus diffusés, mais intouchable quand il est à l’étranger), l’hébergeur est un intermédiaire technique qui met à disposition de tiers des outils permettant de communiquer des informations en ligne. Il est censé ne pas intervenir dans la création ou la sélection des contenus diffusés.

Les réseaux sociaux, via leurs algorithmes, jouent un rôle actif dans le référencement et la présentation des contenus aux utilisateurs de leurs plateformes et disposent d’une ligne éditoriale de fait (renforcer les croyances et les biais cognitifs de leurs utilisateurs), on pourrait légitimement les considérer comme éditeurs et donc responsables des contenus illicites.

Mais qu’est ce qu’un contenu illicite ? Le Conseil constitutionnel, en censurant la loi AVIA, a estimé que donner aux réseaux sociaux un pouvoir unilatéral de retrait de contenus, fondé sur la propre appréciation d’un opérateur privé, sans intervention d’un juge, seul garant du respect des libertés fondamentales est anti-constitutionnel.

Celle loi était une avancée. Elle visait à imposer aux principaux réseaux sociaux et plateformes collaboratives ou moteurs de recherche une obligation de retrait, dans un délai d’1 heure à 24 heures, des contenus terroristes et pédopornographiques. Elle prévoyait également :

- la mise en place d’un parquet spécialisé numérique afin de poursuivre et juger les auteurs de contenus haineux illicites ;

- la création d’un observatoire de la haine en ligne, chargé d’assurer le suivi et l’analyse de l’évolution des contenus haineux ;
- l’obligation pour les opérateurs de plateformes de désigner un interlocuteur référant, une personne physique située sur le territoire français, afin de permettre aux autorités judiciaires et au CSA de communiquer avec lui.

Après la censure du Conseil constitutionnel, ne reste dans la loi Avia, promulguée le 24 juin 2020, que :
- la simplification du signalement du contenu haineux auprès des plateformes ;
- la création de l’observatoire de la haine en ligne.

La période actuelle démontre que le Conseil Constitutionnel a censuré bien rapidement une loi qui aurait permis de limiter les dérives haineuses et antisémites actuelles.

L’appel à une régulation plus poussée des réseaux sociaux est de plus en plus fort… Ce souhait d’agir contre la diffusion des contenus haineux en ligne s’inscrit dans un contexte plus général (et mondialisé) de volonté de sévir contre les géants incontrôlés de la Tech.

Et l’Europe ?

La politique de régulation européenne est limitée à un code de bonne conduite convenu en 2016, à une communication de la Commission européenne sur la lutte contre les contenus illicites en septembre 2017, suivie par des recommandations sur ce même sujet, en 2018. Ce manque de contrainte est causé par les directives européennes de 2000 sur le commerce électronique qui stipulent qu’une société de l’information ne doit pas être tenue pour responsable des informations transmises sur son réseau de communication. En outre, les services numériques fournis par ces entreprises ne doivent pas être restreints, à moins de respecter des conditions très handicapantes pour les autorités.

La première mesure forte pour réguler les réseaux sociaux est le règlement du 29 janvier 2021 pour lutter contre la diffusion de contenus terroriste en ligne. Leur définition est univoque : ce sont ceux qui incitent à commettre des actes terroristes, qui glorifient ces actes ou encore qui fournissent des instructions pour fabriquer des armes et des engins explosifs. 

La régulation des réseaux sociaux passe aussi par le Digital Service Act (DSA). Adopté en Octobre 2022 et appliqué en août 2023, il oblige les réseaux sociaux, dont la fréquentation dépasse un certain seuil, à procéder à une évaluation des risques systémiques qu’ils occasionnent et à divulguer les mesures « raisonnables, efficaces et proportionnées » pour les atténuer. Leur algorithme doit être évalué par les spécialistes du Centre européen pour la transparence algorithmique (ECAT). Objectif : détecter d’éventuels biais et s’assurer de l’existence d’un contrôle humain.

Un système de traitement des réclamations doit indiquer clairement l’avancement par les modérateurs d’un signalement. Enfin, des sanctions pour les plateformes récalcitrantes sont prévues. Il s’agira d’une amende pouvant équivaloir à 6% du chiffre d’affaires mondial encaissé au cours de l’année.

Insuffisant pour le gouvernement français

La Commission européenne reproche au gouvernement français de chercher à réguler les grandes plateformes en ligne. Un sujet qui ne peut pourtant pas être traité au niveau national, aux yeux de Bruxelles, mais uniquement au niveau européen. "L'effet direct des règlements de l'UE rend toute transposition nationale inutile [...], les États membres devraient s'abstenir d'adopter des législations nationales qui feraient double emploi avec ces règlements ou qui créeraient des dispositions plus strictes" avertissait la Commission le 2 août 2023, concernant la multiplication des lois franco-françaises visant à réguler les géants du numérique. "La Commission [...] est donc prête à faire usage de ses pouvoirs de coercition, si nécessaire, pour assurer le respect desdits règlements".

La Commission européenne reproche notamment à la France d'imposer aux plateformes de vérifier elles-mêmes qu'un internaute condamné par un juge à un bannissement de réseau social ne tente pas de créer un nouveau compte. Elle reproche également à la France de légiférer sur la vérification de majorité pour accéder aux sites pornos.

Notre solution : une politique pro-active pour lutter contre la haine

La bonne réponse aux déferlements des contenus haineux et du harcèlement est double :

Identifier et condamner sévèrement les auteurs et ceux qui relayent les informations, notamment dans les cas des conséquences dramatiques (émeutes, suicides…). En particulier l’interdiction de vie numérique doit être systématique pour les cas les moins graves.

Considérer les plates-formes et réseaux sociaux comme éditeurs : à eux de mettre les moyens en modération et en modifiant leurs algorithmes.

Puisque l’Europe n’arrive pas à résoudre le problème, résolvons le au niveau national, et maintenons le dialogue avec la Commission pour la faire évoluer et refusons par avance toute menace de sanction.

Complément du 7 novembre : Ignoble, TikkTok gagne beaucoup d'argent avec le conflit au Moyen Orient

En échange de cadeaux virtuels, des streameurs TikTok s'enrichissent grâce à des matchs en direct opposant Israël et la Palestine.

Des tiktokeurs profitent de l'intérêt du public pour le conflit entre Israël et le Hamas pour faire du profit. Mais ils ne sont pas les seuls, puisque TikTok empoche une partie des gains au passage.

Selon le média Wired, dans les jours qui ont suivi l'attaque du Hamas contre Israël le 7 octobre, surfant sur l'intérêt suscité par la guerre entre Israël et le Hamas, des streameurs TikTok se sont livrés à des « matchs en direct », opposant les deux camps. Objectif : inciter les spectateurs à faire des dons. Chacun des streameurs se met en scène représentant un camp et encourage ses partisans (le plus souvent en criant) à faire des cadeaux virtuels. Des drapeaux ou des déguisements indiquent la position de chacun. Au bout de cinq minutes, l'équipe qui a reçu le plus de likes et de cadeaux (certains coûtant plusieurs centaines de dollars) remporte le duel. À l’issue de ces batailles, chaque créateur transforme ses gains en monnaie sonnante et trébuchante. Mais les streameurs ne sont pas les seuls à y gagner puisque TikTok peut prélever jusqu'à 50 % des revenus générés.

Des batailles à coups d'autocollants et de pièces virtuelles
Ici, plutôt que de présenter un argumentaire sur les droits des Israéliens ou des Palestiniens, les batailles se jouent à coups d'autocollants, de banderoles aux couleurs de son camp et de commentaires pendant que chaque streameur harangue ses supporters à coup de « J'aime, j'aime, j'aime » et de « Suivez-moi » pour les inciter à faire des dons. Les cadeaux virtuels sont achetés avec la devise « pièces » intégrée à l'application TikTok. Les cadeaux vont de simples autocollants (roses, cœurs, logos TikTok, pandas...) qui ne valent que quelques pièces, jusqu'à des animations qui peuvent coûter jusqu'à 45 000 pièces. Selon un rapport de data ai. le système de monétisation aurait permis à la plateforme d'empocher l'équivalent de 6 milliards de dollars en 2022.

Une escroquerie dégoûtante
Dans le lot des streameurs cherchant à tirer profit de la crise, deux créateurs se démarquent. Ils n'auraient selon Wired aucun lien avec les entités représentées. Derrière le drapeau palestinien, un streameur turc. En face, un streameur gréco-géorgien représente Israël. Aucun d'entre eux n'a indiqué qu'il prévoyait de reverser l'argent récolté aux personnes directement touchées par le conflit.

L’essor des matchs TikTok liés à la guerre entre Israël et le Hamas a été vivement critiqué par Abbie Richards, de l’Accelerationism Research Consortium. Spécialisée dans le suivi de la désinformation sur TikTok, la chercheuse les a qualifiés « d'escroquerie dégoûtante ». Dans une vidéo publiée sur Instagram elle a déclaré : « Il s’agit de vraies personnes qui envoient de l’argent réel à des tiktokeurs pour manifester leur soutien à Israël ou la Palestine. Mais savez-vous qui gagne vraiment de l'argent avec ça ? TikTok, car ils absorbent environ la moitié de l’argent que gagnent les créateurs en direct. Cela n’aide littéralement personne, à l’exception de ces escrocs et de TikTok. C'est dégoûtant. »