< Retour au blog

Contenus haineux : les bonnes affaires des « profiteurs de guerre » sur X

publié le 26/04/2024

Pour dix comptes X (ex-Twitter) diffusant des contenus haineux, la guerre Israël-Hamas constitue une opportunité de toucher une audience plus large. Il s’agit du principal enseignement d’une étude du Center for Countering Digital Hate (CCDH), une ONG anglo-américaine qui analyse la désinformation en ligne, parue en avril 2024. Grâce au programme de monétisation proposé par X, ces émetteurs malintentionnés profitent de leur popularité accrue pour s’enrichir. La plateforme engrange aussi une partie des revenus publicitaires.Couverture du Rapport "Hate Pays" de l'ONG Center for Countering Digital Hate (CCDH)

Une audience en forte hausse

Le CCDH a étudié dix comptes X anglophones ayant publié des contenus haineux (antisémites, islamophobes et/ou anti-palestiniens) après le déclenchement de la guerre entre Israël et le Hamas, le 7 octobre 2023. Ces dix comptes ont rapidement focalisé leur attention sur la situation à Gaza, délaissant leurs anciennes thématiques de prédilection (le plus souvent, la pandémie de Covid-19 et les vaccins). Cette réorientation thématique a engendré une forte hausse de leur audience. Selon les auteurs de l’étude, l’audience cumulée de ces dix comptes a ainsi augmenté quatre fois plus vite entre le 7 octobre 2023 et le 7 février 2024 qu’entre le 7 juin et le 7 octobre 2023. Plus précisément, les dix comptes analysés ont gagné près de 4 millions d’abonnés durant les quatre mois ayant suivi le 7 octobre, contre une croissance de « seulement » 1 million d’abonnés au cours des quatre mois précédents.

Des responsabilités partagées

Pour le CCDH, la visibilité accrue des publications émanant de ces comptes résulte en partie des nouvelles possibilités offertes par la plateforme X depuis son rachat par le milliardaire Elon Musk, en octobre 2022. En effet, les dix comptes étaient tous abonnés à « X Premium » au cours de la période étudiée. Lancé dans la foulée du rachat par Elon Musk, ce service payant accorde aux utilisateurs un badge bleu « vérifié » auparavant réservé aux personnalités publiques, telles que les journalistes. Les publications des abonnés « Premium » sont en outre mises en avant par l’algorithme de la plateforme.

Par ailleurs, des internautes bien intentionnés peuvent également « contribuer de manière significative à la visibilité des contenus haineux sur X ». Selon le CCDH, les internautes qui partagent un contenu haineux afin de le dénoncer peuvent ainsi contribuer à hauteur de 28% à la portée de la publication initiale.

Une manne financière pour la plateforme et les créateurs

La plateforme X affirme qu’elle interdit la publicité sous les publications « potentiellement inappropriées ». Pourtant, les auteurs de l’étude ont identifié « au moins un exemple de publicité apparaissant à proximité d’un message haineux sur chacun des dix comptes étudiés ». Pour X, ces comptes sont donc des sources de revenus publicitaires. Les comptes eux-mêmes ont pu profiter d’une fraction de ces revenus, grâce au programme de partage des revenus publicitaires lancé en août 2023 pour les abonnés « X Premium ». Une autre fonctionnalité permet en outre aux créateurs de contenus problématiques de s’enrichir : les « Souscriptions ». Six des dix comptes étudiés par le CCDH proposent ainsi à leurs followers d’accéder à des contenus exclusifs contre le payement d’un abonnement mensuel.

En conclusion, Imran Ahmed, directeur du CCDH, reconnaît que le phénomène décrit dans l’étude n’est pas propre à X. Toutefois, il estime que le recul de la modération des contenus entraîne la plateforme dans « une spirale mortifère » accélérée par les algorithmes et la monétisation.

Retrouvez d’autres éclairages sur les infox.

Pour se renseigner sur l’offre de formation.

Pour nous contacter et nous suivre sur Twitter, Facebook, Instagram, Bluesky et LinkedIn.

Ces articles peuvent vous intéresser

Grand entretien avec le fact-checker Alexandre Capron : « Chacun, à son niveau, peut être un premier rempart contre la désinformation »

Dans un entretien accordé à Infox.fr, Alexandre Capron, journaliste spécialiste de la vérification des contenus manipulatoires, disposant de 12 ans d’expérience sur la thématique de la désinformation à l’international, donne sa vision du fact-checking et ses astuces pour démêler le...

États-Unis : l’élection présidentielle sous la menace de l’IA

Alors que la moitié de la population mondiale est appelée aux urnes en 2024, le risque que l’intelligence artificielle (IA) soit utilisée à des fins malveillantes est un enjeu majeur. Faux articles, faux enregistrements audio… Les dangers sont multiples. Une étude du Center for Countering...

Infox générées par l’IA : un réel pouvoir de persuasion

La désinformation générée par l’intelligence artificielle (IA) peut être aussi convaincante que la désinformation d’origine humaine. Il s’agit du principal enseignement d’une étude publiée en février 2024 par des chercheurs des universités américaines de Georgetown et Stanford....