Des robots Facebook désactivés après avoir eu une conversation quelque peu étrange…

03 Août, 2017, 18:34 | Auteur: Christian Jacquard
  • Facebook

Une intelligence artificielle de Facebook invente un langage que les humains ne peuvent pas comprendre: "le système a été déconnecté avant qu'il ne devienne Skynet". "C'est assez semblable aux communautés d'humains qui créent des raccourcis via la sténographie", expliquait le chercheur Dhruv Batra au site FastCoDesign. De plus, l'une des raisons pour lesquelles l'expérience fut interrompue est que son but n'était pas de prouver ce que les chercheurs savaient déjà de la capacité des machines à créer un langage, mais précisément de faire en sorte que les machines puissent échanger avec les humains. Certes, les deux intelligences artificielles ont eu une conversation pas banale lors d'un test rendu public à la mi-juin.

En d'autres mots, les machines ont fait ce que la plupart des gens font en conversant: éliminer le verbiage inutile et les redondances pour en venir au point.

"Pour entraîner les IA à négocier, Facebook a développé un programme dans lequel les intelligences artificielles (" agents ") devaient discuter entre elles et trouver en moins de 10 minutes une solution convenant aux deux " agents ".

D'après les chercheurs de la FAIR, l'expérimentation consistait en l'étude de la "négociation sur une tâche à problèmes multiples", en montrant à deux robots "une même sélection d'objets (par exemple deux livres, un chapeau et trois balles) et de leur apprendre à se les partager entre eux en négociant le partage". Les chercheurs du labo ont donc ordonné aux robots de repasser à l'anglais. Avant de démarrer leur conversation, les robots sont informés de la valeur de ce que représente chaque objet pour eux.

En résumé, les robots ne sont pas en train de préparer une attaque contre les humains dans leur langage. On n'en est pas encore là, mais la désactivation de deux robots Facebook ayant réussi à secrètement inventer "leur propre langage" n'est pas spécialement pour nous rassurer. Peut-être les répétitions expriment-elles simplement des valeurs, mais cette hypothèse n'a pas suffi à décoder les messages. Les sujets de société les plus sérieux, comme par exemple la santé ou l'immigration, nécessitent les négociations de personnes intelligentes et leur volonté de faire des compromis afin d'obtenir les meilleurs résultats possibles.

Recommande: