< Retour au blog

Sur YouTube, des discours haineux toujours présents malgré la modération

publié le 12/07/2023

En dépit des efforts de YouTube pour les supprimer, les discours de haine demeurent présents sur la plateforme. Ces discours mobilisent souvent une rhétorique d’inspiration complotiste. C’est ce que montre une étude réalisée par des chercheurs associés au Medialab de Sciences Po dans le cadre du rapport annuel sur la lutte contre le racisme, l’antisémitisme et la xénophobie, publié par la Commission nationale consultative des droits de l’homme (CNCDH) début juillet.Couverture du rapport annuel de la Commission nationale consultative des droits de l’homme (CNCDH)

Une étude à grande échelle

L’hébergeur de vidéos YouTube est le 2ème site internet le plus visité par les Français, juste derrière le moteur de recherche Google, sa maison-mère. Chaque mois, des milliers de vidéos sont publiées, visionnées et commentées sur la plateforme. Ces vidéos et les commentaires qu’elles génèrent doivent théoriquement respecter des règles visant à empêcher la prolifération de contenus problématiques (pornographie, incitations à la violence, racisme, infox…). Dans les faits, cet encadrement a cependant des limites. Selon les chercheurs associés au Medialab, certains discours haineux et/ou complotistes continuent ainsi à prospérer sur YouTube.

Les chercheurs ont constitué un corpus de 240 000 vidéos provenant de 931 chaînes YouTube. À l’aide d’un algorithme, ils ont analysé les 35 millions de commentaires laissés sous ces vidéos afin de repérer les discours haineux. Trois types de discours ont ainsi été identifiés : l’antisémitisme, l’hostilité envers les musulmans et l’islam (HEMI), et le racisme.

Des discours de haine diversifiés

L’analyse révèle que les commentaires possédant une empreinte antisémite se répartissent en trois grandes familles de discours haineux. D’une part, les discours antisémites « qui s’inspirent de l’antisionisme, assimilant l’État d’Israël à un ‘État terroriste’ » cherchant notamment à dominer le monde arabe. D’autre part, les discours liés à des problématiques de politique intérieure : on retrouve ici « le vieux motif de la judéophobie et le reproche fait aux Juifs de leur double allégeance », mais aussi des critiques liés à la laïcité. Enfin, la dernière famille de discours « témoigne de la rencontre entre antisémitisme et théories du complot ». Cette association emprunte différentes tournures narratives : la dénonciation des « messes noires » dans lesquelles les élites internationales de confession juive se livreraient, selon les complotistes, à des sacrifices rituels d’enfants, ou encore, la dénonciation d’un « grand complot international pour l’avènement d’un nouvel ordre mondial commandé par la finance internationale ».

Les discours d’hostilité envers les musulmans et l’islam se caractérisent aussi par une distinction entre « des critiques globales, traitant l’islam comme un problème international » (présence française au Mali, conquête de l’Afghanistan par les Talibans…) et des critiques liées à la politique intérieure française (laïcité, insécurité, « islamo-gauchisme » supposé de certains responsables politiques…).

Quant aux discours racistes, ils ne s’appuient pas sur « des récits ou des argumentaires propres ». Ils puisent à la fois dans le registre de l’antisémitisme et dans celui de l’hostilité envers les musulmans. Dans ce cadre, plusieurs « points de crispation » peuvent être mis en avant : la couleur de peau, la langue, l’accent, ou encore les prénoms.

Le complotisme matrice commune de la haine

Si les discours de haine sont très divers, ils partagent souvent une même logique rhétorique : le complotisme. Selon les chercheurs, le complotisme n’est ainsi pas seulement associé à l’antisémitisme. Il joue un « rôle matriciel » pour tous les discours de haine. Dans ces discours, « les ennemis pointés du doigt, qu’ils soient juifs, noirs, musulmans, sont mis au service d’une conspiration internationale, soit comme agents de cette conspiration, dans le cas des Juifs, soit comme victimes collatérales ou ‘idiots utiles’ servant celle-ci à leur insu ».

Les auteurs soulignent ainsi que le complotisme s’adapte à toutes les situations. Cette adaptation est rendue possible par plusieurs procédés rhétoriques : l’empilement de références visant « à surcharger l’argumentation pour lui donner une certaine efficacité quantitative », la montée en généralité pour « montrer l’ampleur du complot » et clore toute possibilité de débat, ou encore le recours à des expressions, références et mots fourre-tout « qui, du fait de leur usage dans des contextes très différents les uns des autres, ont perdu toute signification géopolitique, sociologique ou historique » (« Davos », « État profond », « Rothschild », etc.).

Des discours de haine inégalement répartis sur YouTube

Comment les différents discours de haine sont-ils répartis sur YouTube ? Afin de répondre à cette question, les chercheurs ont divisé les 931 chaînes YouTube du corpus en 11 catégories, établies sur la base de l’audience et des contenus proposés : « Science et Histoire », « Armée et Stratégies », « Culture et Pop culture », « Médias centraux » (généralistes), « Médias de gauche », « Droite Confusionniste », « Droite Masculiniste », « Droite Identitaire », etc. Ils ont ensuite identifié les discours de haine dominants dans chacune de ces catégories.

Ainsi, les médias centraux sont par exemple « relativement peu touchés par des commentaires relevant d’une forme de haine en particulier ». Pour les chercheurs, cela « s’explique notamment par la grande diversité des sujets traités » par ces médias. A contrario, les chaînes appartenant à la sphère des trois droites radicales (confusionniste, masculiniste, identitaire) ne suscitent pas les mêmes formes de haine. Les commentateurs des contenus de la droite identitaire ont ainsi « tendance à être beaucoup plus racistes et hostiles aux musulmans qu’antisémites ». Inversement, les internautes commentant les vidéos produites par des chaînes de la droite confusionniste ont une plus grande probabilité d’être antisémites. Les commentaires liés aux vidéos de la droite confusionniste se singularisent en outre par « leur fort investissement des thématiques complotistes, phénomène que l’on retrouve aussi dans la droite masculiniste ».

En définitive, l’étude du Medialab démontre que l’antisémitisme, le racisme, et les propos hostiles aux musulmans et à l’islam continuent d’exister sur YouTube, une plateforme pourtant attentive au « nettoyage » des contenus problématiques. Un paradoxe qui s’explique notamment par les stratégies de dissimulation employées par les promoteurs de haine. Ces derniers utilisent des euphémismes, des périphrases ou des sous-entendus qui complexifient le travail de modération.

Retrouvez d’autres éclairages sur les infox

Pour se renseigner sur l’offre de formation.

Pour nous contacter et nous suivre sur Twitter et LinkedIn.

Ces articles peuvent vous intéresser

Infox générées par l’IA : un réel pouvoir de persuasion

La désinformation générée par l’intelligence artificielle (IA) peut être aussi convaincante que la désinformation d’origine humaine. Il s’agit du principal enseignement d’une étude publiée en février 2024 par des chercheurs des universités américaines de Georgetown et Stanford....

Sur YouTube, des internautes moins protégés contre les nouveaux contenus climatosceptiques

L’analyse de plusieurs milliers de vidéos YouTube suggère que de nouvelles infox sur le climat, axées sur la mise en cause des militants, des scientifiques et des énergies propres, sont désormais dominantes dans les contenus climatosceptiques hébergés sur la plateforme. Parallèlement, les...

La recherche du chaos, une motivation des diffuseurs d’infox

Pourquoi certains internautes partagent-ils des infox sur les réseaux sociaux ? Selon une étude publiée en août 2023 et réalisée par quatre chercheurs américains des universités du Colorado, du Delaware et du Minnesota (Carleton College), la croyance et le « besoin de chaos » sont les...