« La Fabrique du mensonge : Terroristes en réseaux ». Entretien avec Karim Rissouli

Comment l’assassin de Samuel Paty et l’auteur de la tuerie de Christchurch en Nouvelle-Zélande ont-ils pu se radicaliser sur les réseaux sociaux aux yeux de tous sans aucune modération des plateformes sociales ? Le nouvel épisode de « La Fabrique du mensonge », diffusé dimanche à 20.50 sur France 5, retrace les étapes de ces deux tragédies qui illustrent les manquements des réseaux sociaux dans la lutte contre la radicalisation en ligne. Karim Rissouli nous en parle.

L'assassinat de Samuel Paty dans « La Fabrique du mensonge »
L'assassinat de Samuel Paty dans « La Fabrique du mensonge ». © Together Media

C’est le pire raté dans l’histoire de la modération sur les plateformes... Facebook et Twitter ont créé des monstres qui les dépassent totalement. 

Romain Badouard, chercheur et auteur du livre Les Nouvelles Lois du web

Le 16 octobre 2020, Samuel Paty, professeur d’histoire-géographie à Conflans-Sainte-Honorine, est assassiné par Abdoullakh Anzorov, un jeune islamiste radicalisé. Samuel Paty a été décapité pour avoir montré, lors d’un cours sur la liberté d’expression, des caricatures du prophète Mahomet. Et, selon le mensonge d’une collégienne, il aurait – à cette occasion – stigmatisé ses élèves musulmans. Ce mensonge s’est propagé à une vitesse folle sur les réseaux sociaux. Depuis des mois, son assassin publiait à la vue de tous des contenus de haine, allant même jusqu’à rechercher ouvertement des cibles. Les géants de l’Internet auraient-ils pu le repérer avant son passage à l’acte ? Anzorov aurait-il pu être arrêté avant l’assassinat de Samuel Paty ? Cet attentat qui a bouleversé la France illustre la faillite des plateformes digitales dans la modération des contenus. Une autre histoire dramatique en est le témoignage.
Le 15 mars 2019, à Christchurch, en Nouvelle-Zélande, Brenton Tarrant assassine 51 personnes dans deux mosquées. Une attaque calibrée pour les réseaux sociaux que le terroriste a diffusée en direct sur Facebook sans aucune action des modérateurs pendant vingt-neuf minutes. Pourtant, les mois précédant l’attentat, le suprémaciste blanc montre sa radicalisation en consultant des contenus racistes et conspirationnistes et en postant publiquement des indices sur son intention de passer à l’acte. Mais, encore une fois, les réseaux sociaux n’ont rien fait pour empêcher la tuerie qui s’annonçait. Pire, ils ont contribué à amplifier des théories dont Brenton Tarrant se revendiquait… 

Avant, la radicalisation se faisait de manière très locale. Grâce à Internet, elle peut être complètement globalisée.

Guillaume Chaslot, ex-ingénieur chez YouTube, créateur de AlgoTransparency

Tout démontre que la modération n’est pas du tout une priorité de Twitter : on ignore totalement les investissements qui sont faits, technologiques ou financiers, pour améliorer cette situation.

Damien Leloup, journaliste Le Monde

Entretien avec Karim Rissouli, journaliste et animateur

Karim Rissouli
Karim Rissouli.
© Romain Rigal / FTV

Plus que de mensonge, on a envie de parler cette fois de « fabrique de la haine »… Deux actes terroristes où les réseaux sociaux ont été vecteurs, mais où les plateformes ont failli par manque de modération. Que craignent-elles le plus ? 
Karim Rissouli : Je crois que, comme le dit Romain Badouard, elles ont créé des monstres qui les dépassent totalement aujourd’hui. Il n’y a évidemment pas de volonté des plateformes d’aboutir à des drames comme ceux des assassinats de Samuel Paty et de Christchurch. Ce que l’on questionne, c’est la volonté de tirer les leçons de ce qui se passe. Pourquoi est-ce que ça ne va pas plus vite dans la modération de ces contenus et dans la régulation ? On n’a pas toutes les clés, car c’est aux plateformes de répondre. Alors je dirais que c’est plus la « fabrique du terrorisme »,avec la radicalisation de deux terroristes sur Internet.  

Qu’ont-ils en commun ? 
K. R. : Ce que je trouve intéressant, c’est qu’il s’agit de deux idéologies complètement opposées : d’un côté, un islamiste qui assassine au nom de sa religion un professeur d’histoire et, de l’autre, un suprémaciste blanc qui veut lutter contre le grand remplacement et l’influence des musulmans et des islamistes. Et pourtant les mêmes mécaniques se répètent. Dans les deux cas, ils sont deux clients idéaux pour recevoir les discours conspirationnistes et ensuite passer à l’acte.
Dans cette collection documentaire, et encore plus dans ce film, on ne parle pas seulement des fake news comme des sujets de débats. Car c’est plus grave que ça : la haine, les mots et les fausses informations peuvent tuer en l’absence de modération. Mais on n’apporte pas non plus de solution, car comme Jean-Yves Camus – politologue spécialiste de l’extrême droite – le dit, modérer revient à écoper à la petite cuillère dans des milliards de contenus.

Aucune des plateformes n’est interviewée…
K. R. : On les a sollicitées mais, quel que soit le documentaire qui questionne leur responsabilité, elles ne répondent pas et disent juste qu’elles ont amélioré leur système de modération. Si un terroriste demain diffusait en live son attentat, elles n’attendraient pas vingt-neuf minutes pour le couper, comme cela a été le cas pour Brenton Tarrant. Mais c’est plus compliqué de réguler des milliards de contenus que de faire le travail du CSA dans un pays comme la France !

Comme le dit Romain Badouard : « Chez Twitter, il y a une philosophie de modérer le moins possible pour protéger la liberté d’expression des usagers, et que le maximum de thématiques puisse être abordé. »
K. R. : Il y a un double discours : à la fois la volonté de protéger et de ne pas entraver la liberté d’expression. En même temps, ces contenus-là sont les plus partagés, donc font le succès de ces réseaux sociaux. Ce qui est compliqué pour les plateformes, c’est comment ne pas nourrir ce cercle vicieux.

Comment se fait-il que le manifeste de Brenton Tarrant apparaisse toujours en ligne aujourd’hui dans les premières propositions ?
K. R. : Et il est énormément consulté ! La vidéo aussi continue à circuler : Facebook a essayé de la supprimer, sans succès. Les plateformes sont dépassées par le monstre qu’elles ont créé. Mais, dans le cas du manifeste, ce serait extrêmement facile de le supprimer. Il y a une incompréhension totale à l’égard des plateformes qui ne vont pas jusqu’au bout dans la régulation. Tout n’est pas régulable et, évidemment, il y a toujours des gens qui passeront entre les mailles du filet. Mais ce n’est pas une atteinte à la liberté d’expression que de supprimer un manifeste raciste, xénophobe et qui appelle au meurtre ! Internet et les réseaux sociaux ne doivent pas être un Far West où les lois de la démocratie ne s’appliquent pas. Car ce sont les mêmes personnes qui vont se radicaliser dans ce monde dérégulé et qui, après, viennent appliquer ce qu’elles ont appris sur les réseaux et tuer dans la vraie vie.

Les algorithmes ont des failles que les internautes douteux savent utiliser…
K. R. : C’est un jeu du chat et de la souris entre ceux qui connaissent et maîtrisent les failles des réseaux sociaux et de la modération, et les algorithmes qui s’adaptent en permanence. Dans le cas de la tuerie de Christchurch, ces derniers ont pris le début de la tuerie pour un jeu vidéo first-person shooter très connu,et n’ont pas fait la différence, comme l’aurait fait un regard humain.
Mais en ce qui concerne les modérateurs, on voit que la référence néonazie au « jour de la corde » dans un message de radicalisation de Brenton Tarrant n’est pas forcément compréhensible par un humain qui la voit passer. La question qui est posée est celle des moyens humains qui pourraient être beaucoup plus importants pour des plateformes qui ont des richesses équivalentes environ au PIB de l’Union européenne. Rien ne les empêche de mettre des milliards d’euros dans la modération. On ne peut pas dire que tout soit fait, même dans le respect de la liberté d’expression.

Les États-Unis viennent de rejoindre l’appel de Christchurch, lancé en mai 2019 à Paris par le président français et la Première ministre néo-zélandaise. Les grandes plateformes réunies dans le Global Internet Forum to Counter Terrorism ont décidé d’agir aussi. Où en est-on aujourd’hui ?
K. R. : Cet appel est une réponse à l’internationalisation de la radicalisation par l’internationalisation de la lutte. Une dizaine de pays l’ont rallié. Ça signe une prise de conscience, mais ça ne signifie pas encore que tous les moyens suffisants ont été mis en place pour lutter contre la diffusion de contenus haineux en ligne. Pour l’instant, on est dans des déclarations d’intention de la part des États et des plateformes. C’est éminemment politique. On peut y voir quand même un espoir de prise de conscience. Nous ne sommes qu’au début de la modération de ce Far West. L’appel de Christchurch est une première étape. On pose cette question : est-ce qu’en 2021 un Brenton Tarrant ou un Anzorov serait encore possible ? Malheureusement, la réponse est oui…

Quels seront les prochains thèmes abordés dans la collection ?
K. R. : En cette année avant la présidentielle, on ne mesure pas encore à quel point on va vivre la première campagne électorale sous fake news. C’est vraiment un enjeu démocratique majeur, et ce ne sont pas des mots : c’est une conviction profonde. Les thématiques politiques seront donc plus nombreuses et les émissions peut-être même plus rapprochées en fonction de l’actualité. Cette collection autour des fausses informations est essentielle aujourd’hui et je suis très fier de la porter à l’antenne. Que France Télévisions lui fasse confiance dans la durée, c’est un message fort envoyé au public.

Propos recueillis par Anne-Laure Fournier

La Fabrique du mensonge : Terroristes en réseaux

Déconseillé aux moins de 10 ans

Collection documentaire (90 min) – Une soirée portée par Karim Rissouli – Rédaction en chef Arnaud Liévin et Elsa Guiol – Auteurs Guillaume Auda et Étienne Melou – Production Together Media, avec la participation de France Télévisions

#Lafabriquedumensonge

Diffusion dimanche 30 mai à 20.50 sur France 5
À voir et à revoir sur france.tv

Publié le 27 mai 2021
Commentaires