Lors d’une campagne de recherche de fonds, une entreprise suisse de sauvetage a dû faire face à des insultes sur les réseaux sociaux, l’accusant de «se faire du fric grâce au covid». Les médias et les politiciens ne sont pas en reste. Sur leurs comptes, les commentaires menaçants ou sexistes, tels que «votre site me donne envie de vomir» ou «retourne en cuisine!», à la suite de certaines publications ne sont plus rares. Résultat, les internautes n’osent plus s’exprimer de peur de réactions négatives en retour. Outre les questions légales et les dégâts d’image, ces communautés finissent par se vider de leurs fans. D’où l’importance d’installer un garde du corps virtuel.

également interessant

La Ligue de football professionnel (LFP) ou l’Olympique de Marseille (OM) protègent leur communauté, leurs joueurs et leurs dirigeants de la haine en ligne via Bodyguard. Cette application mobile gratuite développée en France en 2018, lancée dans sa version payante B2B en janvier 2021, encadre désormais 600 millions d’internautes.

Comment ça marche? Quelle est la différence avec les outils de «machine learning» des GAFA qui suppriment les insultes? Sur Twitch ou Facebook par exemple, les filtres classiques se font par mots clés, mais il faut souvent les entrer soi-même. «La différence la plus importante, c’est que l’intelligence artificielle de Bodyguard prend en compte abréviations (par exemple «fdp» pour fils de pute), mots mal orthographiés, émojis et, surtout, le contexte dans lequel un message est écrit, explique Célia Paris, responsable marketing de Bodyguard. Ainsi, un «je vais te tuer» est adapté sur une plateforme de jeux en ligne comme Powder, mais sera automatiquement bloqué dans un autre contexte.»

Cette sensibilité au langage de la communauté permet un taux de détection des contenus toxiques de 90%, selon Bodyguard. «Pour laisser la place au débat, l’algorithme fera la différence entre des moqueries, des trolls (initiateurs de polémiques, ndlr), du harcèlement ou des contenus haineux, homophobes, racistes ou sexistes, relève Célia Paris. L’entreprise ou la personnalité pourra régler son degré de tolérance en fonction de ces thématiques.» Chaque commentaire masqué est accessible dans une poubelle et peut être restauré si l’utilisateur le souhaite. La version B2B donne une analyse fine des messages supprimés, permet de bloquer automatiquement trolls et «haters» insistants ou, à l’inverse, d’identifier des fans lorsqu’il s’agit de grosses communautés.

Créée à l’origine pour lutter contre le cyberharcèlement chez les jeunes, l’interface a rapidement attiré l’attention des marques, des influenceurs et des politiques. Aujourd’hui, au tour des médecins, chefs d’entreprise, clubs de sport, journalistes ou créateurs de contenu digital de se protéger de la haine véhiculée sur les réseaux sociaux. Avec la pandémie, celle-ci est en hausse de 30%, selon plusieurs modérateurs de réseaux sociaux.

Partages d’expérience

Blick: Céline Pétremand, responsable des audiences digitales, confirme une augmentation des commentaires virulents, notamment sur le covid. «Nous modérons en rappelant que le débat doit se faire avec respect. Si nécessaire, nous masquons des insultes ou, si le cadre légal n’est pas respecté de manière répétée, il nous arrive de bannir des internautes de la page.»

Pour les parents: 246 millions de jeunes sont victimes de cyberharcèlement dans le monde. En Suisse, c’est un jeune sur quatre, selon une étude réalisée en 2021 par Swisscom et la Haute Ecole zurichoise spécialisée en sciences appliquées (ZHAW). Une version familiale de Bodyguard existe et signale aux parents les auteurs de contenus toxiques répétés.

En chiffres

  • 5 réseaux
    Facebook, Instagram, Twitter, YouTube et Twitch se connectent à Bodyguard. TikTok et LinkedIn refusent pour le moment l’interface.
  • 10 millions
    Le nombre de commentaires analysés chaque mois par Bodyguard, en quatre langues, français, anglais, italien et espagnol. Elle sera bientôt disponible en russe.
  • Que dit le Code pénal?
    L’insulte sur les réseaux sociaux est punie par l’article 177 CP, de même que la diffamation (art. 173 CP) ou la menace (art. 180 CP).