Facebook reconnaît avoir du mal à contrôler les discours de haine sur son réseau

Les normes de Facebook interdisent les menaces ou paroles de haine envers des personnes en raison de leur religion notamment. Le site ProPublica a « testé » Facebook pour vérifier si des discours de haine pouvaient passer entre les mailles du filet.

Il se trouve que oui, et Facebook l’admet, il est très difficile pour ses équipes de tenir le rythme en raison des millions de nouveau posts chaque jour.

Facebook s’excuse et promet de s’améliorer

L’article de ProPublica commence par raconter l’histoire de l’un de leurs lecteurs, qui après avoir signalé une photo disant « Un bon Musulman est un Musulman mort » a reçu un message automatique de Facebook disant que cette image n’allait pas contre les standards de la communauté. D’un autre côté, un commentaire disant « Mort aux Musulmans » avait quand à lui été supprimé après le signalement. Il est donc clair que ces deux posts allaient à l’encontre de la politique du réseau social, mais alors pourquoi l’image est-elle restée ? (À noter qu’après avoir été contacté par ProPublica, la photo a également été retirée du réseau).

La réponse est simple, Facebook possède une « équipe » de 7500 personnes dont le but est de vérifier le contenu publié sur le réseau social. Cette équipe est également aidée par des algorithmes, mais il semble que cela ne soit pas suffisant.

De plus, le site note qu’il a eu accès à une base de données de 900 posts Facebook afin de mener l’enquête sur la façon dont le plus grand réseau social du monde applique ses règles en matière de discours de haine.

Il se trouve que les vérificateurs de contenu font souvent des choix différents sur des contenus similaires et ne respectent pas toujours les directives plutôt complexes de Facebook. Et même quand ils suivent les règles, le langage raciste ou sexiste peut parfois survivre à leur examen car il n’est pas « assez » péjoratif ou violent pour entrer dans les critères de Facebook.

« Nous sommes désolés pour les erreurs que nous avons commises – elles ne reflètent pas la communauté que nous voulons aider à construire », a déclaré le vice-président de la société, Justin Osofsky.

« Nous devons faire mieux. »