Contenus haineux : les bonnes affaires des « profiteurs de guerre » sur X

Pour dix comptes X (ex-Twitter) diffusant des contenus haineux, la guerre Israël-Hamas constitue une opportunité de toucher une audience plus large. Il s’agit du principal enseignement d’une étude du Center for Countering Digital Hate (CCDH), une ONG anglo-américaine qui analyse la désinformation en ligne, parue en avril 2024. Grâce au programme de monétisation proposé par X, ces émetteurs malintentionnés profitent de leur popularité accrue pour s’enrichir. La plateforme engrange aussi une partie des revenus publicitaires.

Une audience en forte hausse

Le CCDH a étudié dix comptes X anglophones ayant publié des contenus haineux (antisémites, islamophobes et/ou anti-palestiniens) après le déclenchement de la guerre entre Israël et le Hamas, le 7 octobre 2023. Ces dix comptes ont rapidement focalisé leur attention sur la situation à Gaza, délaissant leurs anciennes thématiques de prédilection (le plus souvent, la pandémie de Covid-19 et les vaccins). Cette réorientation thématique a engendré une forte hausse de leur audience. Selon les auteurs de l’étude, l’audience cumulée de ces dix comptes a ainsi augmenté quatre fois plus vite entre le 7 octobre 2023 et le 7 février 2024 qu’entre le 7 juin et le 7 octobre 2023. Plus précisément, les dix comptes analysés ont gagné près de 4 millions d’abonnés durant les quatre mois ayant suivi le 7 octobre, contre une croissance de « seulement » 1 million d’abonnés au cours des quatre mois précédents.

Des responsabilités partagées

Pour le CCDH, la visibilité accrue des publications émanant de ces comptes résulte en partie des nouvelles possibilités offertes par la plateforme X depuis son rachat par le milliardaire Elon Musk, en octobre 2022. En effet, les dix comptes étaient tous abonnés à « X Premium » au cours de la période étudiée. Lancé dans la foulée du rachat par Elon Musk, ce service payant accorde aux utilisateurs un badge bleu « vérifié » auparavant réservé aux personnalités publiques, telles que les journalistes. Les publications des abonnés « Premium » sont en outre mises en avant par l’algorithme de la plateforme.

Par ailleurs, des internautes bien intentionnés peuvent également « contribuer de manière significative à la visibilité des contenus haineux sur X ». Selon le CCDH, les internautes qui partagent un contenu haineux afin de le dénoncer peuvent ainsi contribuer à hauteur de 28% à la portée de la publication initiale.

Une manne financière pour la plateforme et les créateurs

La plateforme X affirme qu’elle interdit la publicité sous les publications « potentiellement inappropriées ». Pourtant, les auteurs de l’étude ont identifié « au moins un exemple de publicité apparaissant à proximité d’un message haineux sur chacun des dix comptes étudiés ». Pour X, ces comptes sont donc des sources de revenus publicitaires. Les comptes eux-mêmes ont pu profiter d’une fraction de ces revenus, grâce au programme de partage des revenus publicitaires lancé en août 2023 pour les abonnés « X Premium ». Une autre fonctionnalité permet en outre aux créateurs de contenus problématiques de s’enrichir : les « Souscriptions ». Six des dix comptes étudiés par le CCDH proposent ainsi à leurs followers d’accéder à des contenus exclusifs contre le payement d’un abonnement mensuel.

En conclusion, Imran Ahmed, directeur du CCDH, reconnaît que le phénomène décrit dans l’étude n’est pas propre à X. Toutefois, il estime que le recul de la modération des contenus entraîne la plateforme dans « une spirale mortifère » accélérée par les algorithmes et la monétisation.

Retrouvez d’autres éclairages sur les infox.

Pour se renseigner sur l’offre de formation.

Pour nous contacter et nous suivre sur Twitter, Facebook, Instagram, Bluesky et LinkedIn.