Il y a huit ans, Faceboon AI Research (FAIR) a développé un bot de négociation. Ils ont entraîné le bot à parler plusieurs langues, mais pas l’anglais. Lorsqu’ils ont créé deux instances du bot, chacune parlant une langue différente, les chercheurs ont observé comment les bots développaient leur propre charabia pour communiquer. L’objectif de cette expérience était de découvrir comment deux systèmes de ce type entrent en dialogue et mènent des négociations. Le résultat donne l’impression que deux ivrognes négocient entre eux pour savoir s’ils doivent boire un peu plus et qui les invite à le faire :

Ce qui semblait inefficace pour les humains était une manière bien plus efficace de communiquer pour les robots. Les chercheurs en IA de Facebook ne sont pas les seuls à avoir constaté cet effet. Les chercheurs de Google ont également découvert avec leur outil de traduction Google Translate que celui-ci avait développé de manière autonome sa propre « langue intermédiaire » ou « interlingua » lors de la traduction d’une langue vers une autre, lorsque les développeurs humains n’avaient pas défini de chemin de traduction direct. Les chercheurs ont ensuite cherché à savoir si Google Translate avait ainsi développé un interlingua afin de conserver des concepts de traduction entre les langues. Ils pensent que c’est précisément le cas.

Huit ans plus tard, un projet GitHub appelé Gibberlink montre comment deux chatbots (l’un pour les réservations d’hôtel, l’autre comme assistant personnel) passent à un ton similaire à celui d’un modem commuté pour communiquer plus efficacement lorsqu’ils découvrent qu’ils sont tous deux des bots d’IA.

Il faut s’attendre à ce que les bots IA envoient un petit signal pour se faire reconnaître en tant que bots IA, comme nous le savons pour les informations routières à la radio. Là aussi, un petit signal est envoyé pour que nous puissions également entendre les informations routières d’autres stations de radio qui nous intéressent.

Ce qui représente un gain d’efficacité pour les IA peut sembler effrayant pour certains. Les IA peuvent désormais communiquer entre elles sans que les humains puissent les écouter. Eh bien, ce n’est pas le cas. Aujourd’hui déjà, des systèmes logiciels se parlent par le biais d’interfaces de programmation, sans que nous puissions écouter avec nos oreilles. Mais il existe toujours des protocoles sur les données échangées. Pourquoi cela serait-il différent ici ?

Also: keine Sorge zur Panik!