Jacinda Ardern revient sur l’attentat de Christchurch

Plus de cinq ans après la tuerie de Christchurch, ayant coûté la vie à 51 personnes, l’ancienne Première ministre néo-zélandaise, Jacinda Ardern, revient sur l’arme invisible du terrorisme moderne : la viralité. Face à l’extrémisme en ligne, la modération ne peut plus se contenter d’effacer. Elle doit désormais anticiper.

Un attentat « diffusé pendant 17 minutes en direct sur Facebook »

Le 15 mars 2019, la Nouvelle-Zélande est frappée par le plus important attentat terroriste de son histoire. Un homme, équipé de fusils d’assaut, attaque deux mosquées à Christchurch lors de la prière du vendredi. 51 personnes sont tuées, 49 autres blessées. Cette attaque, « la plus horrible que la Nouvelle-Zélande ait jamais vécu », des mots de son ancienne Première ministre, Jacinda Ardern, est aussi un tournant mondial : « Elle a été diffusée pendant 17 minutes en direct sur Facebook avant d’être retirée. »

C’était l’une des premières fois que les réseaux sociaux étaient utilisés comme une arme de cette manière.

L’ancienne cheffe du parti travailliste, et cheffe du gouvernement à l’époque, se souvient très bien de ce moment, qu’elle a raconté lors de Zendesk Relate à Las Vegas, où était présent BDM. Elle a évoqué la dimension numérique de cet évènement : « C’était l’une des premières fois que les réseaux sociaux étaient utilisés comme une arme de cette manière », fait-elle remarquer, au regard de ce livestream de 17 minutes. 4 000 personnes ont vu la vidéo avant qu’elle ne soit supprimée par Facebook, qui a bloqué ou retiré 1,5 million de copies dans les 24 heures qui ont suivi sa diffusion. « Dans notre cas, la vidéo a été re-uploadée une fois par seconde sur YouTube pendant 24 heures… », ajoute Jacinda Ardern.

Des images d’une violence inouïe à l’impact double

La Néo-Zélandaise alerte sur les implications dévastatrices de ces images, mais prévient également ceux qui les publient des conséquences que cela peut entraîner. Pour les victimes, leurs proches ou les communautés visées, comme pour n’importe quel citoyen ou citoyenne. Et peu importe les raisons qui ont poussé à la mise en ligne ou à la diffusion de certaines séquences, par apologie, curiosité morbide, désir de viralité… voire même d’information.

Je me souviens encore de quelqu’un aux États-Unis qui m’a dit : « Je n’ai jamais pu oublier ces images ».

Jacinda Ardern pointe notamment que parmi « les millions de copies de cette vidéo qui ont été partagées », certaines sont le fait « des médias traditionnels, dans leur couverture » de l’évènement. L’impact psychologique n’implique pas seulement le spectateur lambda. L’ex-Première ministre rappelle en effet que « l’assaillant [de Christchurch] a déclaré plus tard, au tribunal, qu’il s’était radicalisé sur YouTube ». D’où la nécessité « d’agir sur deux fronts : prévenir la radicalisation, mais aussi limiter la portée de ces contenus ».

Le Christchurch Call, un appel à « agir ensemble » contre les contenus extrémistes en ligne

Face à ces défis, immédiatement après l’attentat, le gouvernement néo-zélandais a pris le taureau par les cornes. « La première chose que nous avons faite a été de nous concentrer sur les armes, car elles avaient été acquises légalement, raconte Jacinda Ardern. La seconde, c’était d’aller voir les entreprises tech et leur dire : il faut qu’on commence à agir ensemble », pour éviter qu’un tel livestream puisse être à nouveau possible, comme pour stopper la propagation de ces contenus. Deux mois après l’attaque, elle lance, au côté d’Emmanuel Macron, le Christchurch Call, avec l’objectif de mobiliser les gouvernements et les plateformes pour lutter contre les contenus extrémistes diffusés en ligne.

Nous voulions avoir un impact plus large… Nous avons contacté d’autres gouvernements, ainsi que des entreprises tech, en leur disant : il faut qu’on collabore pour lutter contre l’extrémisme violent en ligne.

Cinq ans plus tard, « de nombreux gouvernements et entreprises tech, dont Meta, participent à cette initiative », se félicite Jacinda Ardern. 54 pays et des grands groupes comme Amazon, Google (et YouTube) ou Microsfot (et LinkedIn) ont rejoint le mouvement, avec des avancées concrètes. On peut notamment citer :

• Le Christchurch Call Crisis Response Protocol : un cadre de réponse aux crises pour lutter contre la diffusion de contenus extrémistes violents en ligne, qui vise à faciliter la collaboration entre gouvernements, entreprises tech et organisations de la société civile.
• Le protocole complémentaire du GIFCT : le Global Internet Forum to Counter Terrorism a développé un Content Incident Protocol pour compléter le Christchurch Call, activé lors d’incidents terroristes qui génèrent du contenu en ligne.
• La Terrorist Content Analytics Platform : créée par Tech Against Terrorism, cette initiative doit fournir ressources et outils gratuits pour aider les petites plateformes à gérer les contenus extrémistes, avec parfois un soutien financier pour accroître les capacités de réponse à toute heure.

En outre, des outils de détection automatique des contenus violents et/ou terroristes ont été déployés par certaines plateformes, comme la Content Safety API de Google. Les diffusions en direct sont également mieux encadrés et les protocoles d’urgence mieux orchestrés. Ils ont par exemple été mis à l’épreuve en mai 2022, lors de la tuerie de Buffalo, diffusée en direct sur Twitch. Le stream avait rapidement été bloqué, grâce à son identification par les outils préétablis.

« Ce qui s’est produit dans notre cas ne pourrait plus se reproduire aujourd’hui »

Grâce à ces « réponses de défense civile automatique 24 heures sur 24 face aux attaques en ligne » et aux initiatives nationales et internationales, Jacinda Ardern estime que « ce qui s’est produit dans notre cas [avec la diffusion en direct de l’attentat de Christchurch] ne pourrait plus se reproduire aujourd’hui ». Celle qui est « toujours la marraine » du Christchurch Call rappelle que « certains protocoles, qui n’étaient pas en place à l’époque, existent aujourd’hui : il est désormais bien plus difficile de diffuser une attaque en direct, comme l’avait fait l’auteur de l’attentat ».

D’autres mesures ont vu le jour, comme la mise en place du Digital Services Act dans l’Union européenne, qui impose aux très grandes plateformes des obligations claires en termes de modération, de retrait de contenu illicite et de transparence algorithmique. Ce n’est pas pour autant que la circulation en ligne de contenus violents a cessé. Loin de là. « Il reste encore énormément à faire pour prévenir l’extrémisme violent en ligne », prévient Jacinda Ardern.

Et la solution ne peut être que technologique. L’ancienne Première ministre appelle effectivement à une vigilance constante – ce que l’on voit reste, ce que l’on partage peut tuer – et à ne pas opposer technique et éthique. Car pour elle, la solution ne réside pas seulement dans les systèmes, mais dans une philosophie du lien, de la responsabilité collective et de la volonté politique : « Authenticité, proximité et action. »