Une intelligence artificielle pour censurer vos propos haineux

0

intelligence artificielle

Yahoo aurait développé un nouvel algorithme pour censurer les propos haineux sur Internet. Une véritable avancée pour la liberté d’expression…

A l’heure où les propos sur Internet sont de plus en plus surveillés (notamment à cause du terrorisme), Twitter aurait en effet utilisé un nouvel algorithme pour censurer les propos sur le net. La semaine dernière, un troll raciste et misogyne du nom de Milo Yiannopulos a été banni du réseau social. Loin d’une simple démarche « manuelle », Twitter aurait utilisé une intelligence artificielle pour le supprimer définitivement de la plate-forme. 

Une liberté d’expression bafouée ?

Pour détruire ces commentaires, Twitter a utilisé une technologie créée par Yahoo. Si si, la société sur le déclin. Yahoo aurait en effet constitué une base de données, créée à partir des bannissements faits par un modérateur humain. Du coup, le « word embedding », comme ils l’appellent, automatise ces bannissements. Autrefois, les modérations automatiques de Twitter fonctionnaient via la présence de mots clé, ou de ponctuations particulières. Désormais, c’est un ensemble de mots qui est analysé pour savoir si oui ou non, il est injurieux.

Cependant, il reste compliqué pour une IA de faire le travail d’un Homme. Il suffit en effet de remplacer une lettre par une autre pour ne pas détecter une insulte. De plus, le jargon est souvent utilisé pour discriminer quelqu’un. Le chercheur Alex Krasodomski-Jones a d’ailleurs déclaré au MIT Technology Review : « Donnez dix tweets à un groupe de personnes. Elles seront rarement d’accord sur ce qui peut être classé comme injurieux, alors imaginez comme ce serait difficile pour un ordinateur« . Il faut aussi se questionner sur un tel appareil de censure. Les réseaux sociaux servent en effet de nos jours comme un exutoire de nos pensées, rarement contrôlées d’ailleurs. Les censurer risquerait de nuire à la liberté d’expression. De plus, un tel dispositif pourrait vite déraper dans des mains incompétentes. Il est compliqué de satisfaire tout le monde via une intelligence artificielle…

Que pensez-vous d’une telle intelligence artificielle ? Pensez-vous que cela pourrait nuire à la liberté d’expression ?

Twitter

Noter cet article

Laisser un commentaire

Please enter your comment!
Please enter your name here