Le réseau de partage de photos et de vidéos Instagram est un espace propice à la diffusion de fausses informations, selon le Center for Countering Digital Hate (CCDH). Dans une étude parue en mars 2021, l’ONG anglo-américaine analyse la désinformation en ligne et démontre que l’algorithme de recommandation du réseau social favorise la propagation des infox. Les fausses nouvelles sont davantage recommandées que les informations vérifiées, même si ces dernières sont portées par des comptes ayant plus d’abonnés. Ainsi, enfermé dans une « bulle de filtre », l’utilisateur est entraîné vers des infox de plus en plus radicales.

Outre son algorithme de recommandation défaillant, la modération d’Instagram est complaisante avec certains émetteurs de fausses informations, qui obtiennent que leur compte soit « certifié » par la plateforme.

Un algorithme de recommandation favorisant les « bulles de filtres »

Afin de recommander des contenus (images, vidéos…) à ses utilisateurs, Instagram recourt principalement à deux fonctionnalités : « Explorer » et « Publications suggérées ». La première propose à l’internaute une sélection de contenus générée à partir des posts publiés ou aimés par les personnes qu’il suit. La seconde, introduite en août 2020, suggère à l’utilisateur qui atteint la fin de son fil d’actualité des publications proches des thématiques qui l’intéressent, mais émanant de comptes qu’il ne suit pas.

Souhaitant déterminer le rôle de ces recommandations dans la diffusion d’informations erronées, les chercheurs ont créé de nouveaux profils. Ces profils se sont abonnés à différents comptes classés par listes thématiques (autorités sanitaires, anti-vaccins, complotistes QAnon…). Sur toute la durée de l’étude, qui s’est déroulée de la mi-septembre à la mi-novembre 2020, Instagram a recommandé 104 publications contenant des infox. Plus de la moitié (57,7%) de celles-ci étaient en lien avec le Covid-19, tandis que 21% concernaient les vaccins.

Cette étude met en lumière le fait que l’algorithme de recommandation d’Instagram favorise les « bulles de filtre ». Ainsi, un internaute qui suit des comptes consacrés à une thématique spécifique sera incité à s’abonner à d’autres comptes du même type. S’il est abonné à des comptes relayant des infox, il est donc conduit vers d’autres contenus erronés. A l’image de ce qui a pu être observé sur le réseau social TikTok, l’algorithme suggère des contenus complotistes de plus en plus radicaux à mesure que l’utilisateur se conforme aux recommandations.

Ainsi, les volontaires qui suivent une liste de comptes anti-vaccins connus (cumulant 6,5 millions d’abonnés au total) enregistrent 30 recommandations problématiques. La plupart d’entre elles (28) sont liées au Covid-19 et aux vaccins. Toutefois, deux publications antisémites liées à la mouvance complotiste QAnon sont également identifiées.

Un risque d’entraînement dans une spirale de désinformation

Echapper à cette désinformation n’est pas chose aisée. Les recommandations algorithmiques se fondent davantage sur l’engagement généré par une publication (mentions « j’aime », commentaires…) que sur le nombre d’abonnés du compte émetteur. Les infox, portées par des communautés retreintes, mais hyperactives, sont ainsi promues au détriment des informations fiables (diffusées par des comptes aux abonnés nombreux, mais moins engagés).

Ce constat ressort des tests effectués par les volontaires abonnés à la fois à des comptes d’autorités sanitaires officielles (OMS, Public Health England…) et à des comptes d’activistes QAnon. Dans ce cas de figure, les infox publiées par ces derniers sont davantage mises en avant par la plateforme. Ces comptes disposent pourtant de relativement peu d’abonnés : 278 000 followers au total (46 000 par compte en moyenne) contre 43,6 millions (4,4 millions par compte en moyenne) pour les autorités sanitaires.

Un internaute abonné à une majorité de comptes fiables qui commence à suivre des comptes diffusant de fausses informations risque ainsi de voir son mauvais penchant encouragé par l’algorithme. Dès lors, le risque d’entrainement dans une spirale de désinformation de plus en plus radicale est réel.

L’impact des infox potentiellement démultiplié par le laxisme de la plateforme

Outre son algorithme de recommandation, Instagram pèche aussi par sa complaisance vis-à-vis de comptes émetteurs d’infox. Ainsi, certains d’entre eux bénéficient d’une certification. Être certifié signifie qu’un compte (appartenant à une entreprise, une personnalité, etc.) est confirmé comme authentique. Or, les comptes de certains militants anti-vaccins se sont vus accorder ce statut « vérifié », qui se matérialise par l’apparition d’un signe distinctif à côté du nom d’utilisateur. En l’espèce, ce statut peut induire l’internaute en erreur en lui donnant l’impression que la plateforme cautionne les publications émanant de ces comptes.

Sur Instagram, l’algorithme de recommandation contribue largement à la circulation d’infox. Le Center for Countering Digital Hate met ainsi en évidence la nécessité d’en repenser le fonctionnement. Une piste envisageable pourrait consister à exclure de l’algorithme les publications concernant les sujets générant le plus de désinformation (la pandémie de Covid-19, les vaccins…), ou émanant de comptes identifiés comme peu fiables.

Retrouvez d’autres éclairages sur les infox

Pour se renseigner sur l’offre de formation.

Pour nous contacter et nous suivre sur Twitter et LinkedIn.