L’IA de Facebook détecte mieux un téton qu’un discours haineux

0

Si les tétons semblent facilement expulsables de Facebook, son IA a plus de mal avec les discours haineux. Mark Zuckerberg s’en explique.

L'IA de Facebook détecte mieux un téton qu'un discours haineux
L’IA de Facebook a des priorités

Les contenus à caractère sexuel ont très rapidement été mis à l’écart par l’IA du plus grand réseau social du monde, et même peut-être un peu trop vite. En effet, toute image d’un sein montrant un téton est systématiquement bannie d’affichage. Mais souvent, ceci est valable pour la gent féminine alors qu’un homme peut se montrer torse nu, affichant donc un téton, sans se faire bannir.

De même, des œuvres ou photos historiques sont effacées du fil d’actualité alors qu’elles sont généralement affichées avec un but culturel et informatif.

Cette censure, souvent critiquée, est aussi valable pour Instagram et a mené à l’apparition des hashtags #FreeTheNipple et #LiberezLeTeton, symbole d’une lutte contre cette politique.

L’IA de Facebook a du mal avec les mots

Mark Zuckerberg, le patron de Facebook et d’Instagram, s’est exprimé brièvement sur ce sujet lors de la présentation des résultats du premier trimestre de son groupe. Ainsi, comme le rapport le site Engadget, il a déclaré qu’il « est beaucoup plus facile de construire un système d’intelligence artificielle pour détecter un téton qu’il ne l’est pour repérer un discours haineux« .

Par cette phrase, il reconnaît qu’il est plus facile pour une IA d’analyser une image ou une photo qu’un texte. En même temps, il n’a pas tord, car une image/photo est compréhensible dans toutes les langues alors qu’un texte faisant l’apologie de la haine, du racisme ou du terrorisme peut-être plus subtil en fonction de la langue et des mots employés. Néanmoins, il reste toujours la possibilité de signaler les posts et comptes entrant dans ces catégories, mais la procédure est plus longue et doit être réalisée par différentes personnes.

Sinon, Facebook va bien et a réalisé un bénéfice net de 4,9 milliards de dollars pour le premier trimestre 2018.

L’IA de Facebook détecte mieux un téton qu’un discours haineux
4 (80%) 1 vote

Laisser un commentaire

Please enter your comment!
Please enter your name here