Violence, terrorisme, sexe, racisme : comment Facebook modère

Sur de nombreux sujets polémiques et délicats, la politique de modération de Facebook est régulièrement pointée du doigt. Il faut dire qu'elle est totalement opaque. Alors quand The Guardian révèle le fonctionnement de la modération du premier réseau social mondial sur les cas de nudité, de violence ou encore de terrorisme, cela fait forcément du bruit.

Lors d'une longue enquête menée par des journalistes du Guardian, qui  ont pu analyser plus de 100 notes internes délimitant le champ d'action des modérateurs de Facebook, les révélations faites par le journal britannique sont parfois étonnantes. Elles confirment en premier lieu que les statuts et échanges problématiques repérés sur le réseau sont classés selon plusieurs échelles entraînant une réponse graduée, allant jusqu'à la suppression des messages. Ensuite, cas par cas, ces règles encadrant le travail fastidieux et sans relâche des modérateurs sont analysées. Cela permet de mieux cerner l'éthique qui régit la modération, et ne manquera pas d'alimenter les grands débats autour de la façon de procéder de Facebook dans ce domaine.

À l'heure des Fake News, de l'enrôlement de djihadistes ou du revenge-porn, et vu l'influence de Facebook sur nos sociétés, inutile de dire que le réseau social est sous pression constante, alors que malgré les outils et les moyens, il est utopique de penser qu'il soit possible de fliquer efficacement l'attitude de près de 2 milliards d'utilisateurs dans le monde. Le volume de travail est d'ailleurs tel que selon The Guardian, les modérateurs n'ont bien souvent qu'une dizaine de secondes pour analyser chaque situation et prendre une décision. Il faut dire qu'ils doivent par exemple faire face, chaque semaine, à pas moins de 6,5 millions d'alertes portant simplement sur de faux comptes potentiels à vérifier. Et ce n'est que la partie émergée de l'iceberg.  

De grandes règles à respecter et des exemples qui font polémique

Mais alors, toutes ces directives facilitent-elles vraiment la tâche des modérateurs et sont elles efficaces ? Si elles sont un cadre important, des modérateurs se plaindraient néanmoins toujours de certaines confusions dans la politique à appliquer, et de l'incohérence de certaines recommandations. Sur le thème de la violence, on apprend par exemple que l'invective "Que quelqu'un tue Trump" donnera systématiquement lieu à une suppression du message, les personnalités politiques (comme d'autres) faisant partie d'une catégorie de personnes dites "protégées". À l'inverse, un simple "Je vais te tuer" en réponse à un message sur le mur d'un ami restera visible puisque cette menace sera jugée comme "trop générique" pour donner lieu à modération. Jusque-là, rien de réellement anormal, mais il est plus cocasse d'apprendre que des passages comme "Pour casser le cou d'une salope, faites bien attention à appliquer toute votre force au milieu de sa gorge", "Frapper une personne rousse ou des enfants obèses" ou encore "Va te faire foutre, et meurs" ne donneront, elles non plus, lieu à aucune modération. Elles ne sont en effet pas jugées comme des "menaces crédibles" au-delà de leur caractère choquant.

Lire la suite : Violence, terrorisme, sexe, racisme : comment Facebook modère