Des IA de Facebook conçoivent leur propre langage ? Pas de stress pour le réseau social

Non, Facebook n’a pas paniqué après avoir vu deux IA créer leur propre langage. La machine médiatique s’est emballé.

Des IA qui échappent à leurs développeurs et là, c’est la catastrophe. Le monde bientôt contrôlé par des intelligences artificielles ? Pour l’instant non. Nombreux furent les médias comme Tech Times, Fox News ou encore Forbes qui relataient le début de l’Apocalypse. En réalité, Facebook est resté très calme et a modifié les paramètres d’un programme pour empêcher les IA de n’en faire qu’à leur tête.

Tout est parti d’un programme pour entraîner des IA à la négociation

Pour entraîner les IA à négocier, Facebook a développé un programme dans lequel les intelligences artificielles (« agents ») devaient discuter entre elles et trouver en moins de 10 minutes une solution convenant aux deux « agents ». Malheureusement, les deux IA confrontées se sont détournées de l’objectif initial et ont préféré mener une conversation abstraite plutôt que de négocier. Ces intelligences artificielles n’ont pas été supprimées, Facebook a préféré paramétrer le programme pour que cela ne se reproduise plus. Ce n’est pas la première fois que des IA créent leur propre langue, c’est même monnaie courante. À ce sujet, Dhruv Batra, chercheur chez Facebook a déclaré : « Ça peut sembler alarmant ou inattendu chez les personnes qui ne travaillent pas dans ce domaine mais c’est un fait établi, des publications en parlent depuis des décennies. ». Le réseau social a racheté récemment la startup Ozlo avec sa plateforme IA pour améliorer Messenger.

Que pensez-vous de cette affaire ? Laissez-nous un commentaire, votre avis nous intéresse !