Comment concevoir un robot adorable ?

Dans une conférence TED, l’éthicienne des robots Kate Darling du MIT décrit comment elle a fait la démonstration d’un petit robot dinosaure à un ami. Ce petit robot nommé Pleo avait quelques capteurs et moteurs intégrés, il pouvait marcher et bouger sa tête, mais il pouvait aussi savoir s’il était debout ou couché. S’il était couché ou suspendu, il se mettait à pleurer. L’ami de Darling a examiné le robot en le tenant à l’envers, ce qui a provoqué les pleurs du robot. Darling s’est sentie si mal à l’aise en faisant cela qu’elle a repris le robot à son amie.

Robot-jouet Pleo

Sa réaction à cela, cette pitié pour le robot dinosaure, qui n’était finalement qu’un jouet, l’a étonnée elle-même, et elle s’est demandée pourquoi nous formons des liens émotionnels avec les machines.

La réaction de Darling n’était pas inhabituelle ; cela arrive à d’autres. Dans l’ouvrage de P. W. Singer intitulé « Wired for War« , les soldats américains parlent de « robot hôpital » plutôt que de « Joint Robotics Repair Facility », où ils envoient leurs drones et leurs robots de déminage en réparation. Ces mêmes soldats donnent à leurs robots des « funérailles avec tous les honneurs militaires ». Et enfin, nous avons déjà entendu parler des Kiwibots renversés qui sont immédiatement remis en place par les passants parce qu’ils avaient l’air si « tristes ». Tout cela nous montre que nous, les humains, sommes très prompts à établir de telles connexions émotionnelles. Tout ce qui bouge et ressemble à la vie peut éveiller notre compassion.

AlphaSophia and me

FUTURE MINDSET : Comment prévoir et concevoir votre avenir

Comment prévoir l’avenir et mieux s’y préparer ? C’est une question que se posent de nombreuses entreprises, et qui a également des conséquences sur leur avenir personnel. Ce cours en ligne enseigne un ensemble d’outils que les étudiants peuvent utiliser pour découvrir par eux-mêmes les signes de ce qui pourrait arriver, comment les influencer pour prendre de meilleures décisions aujourd’hui. Grâce à ces connaissances et à ces outils, les étudiants seront en mesure de façonner leur avenir personnel ou celui de leur entreprise et de leur organisation.

INSCRIVEZ-VOUS à ce cours ! Regardez. la vidéo de promotion !

Outre le robot dinosaure, il existe un certain nombre d’autres robots pour enfants qui expriment visiblement des émotions, suscitant chez eux des réactions intéressantes. Tous ceux qui ont des enfants en âge préscolaire savent par expérience douloureuse que, dans les jeux, ils veulent toujours gagner. Sinon, vous risquez une dépression nerveuse.

Mais voici maintenant sur la scène Cozmo et Vector, deux petits robots aux personnalités distinctes. Ces petits robots sur roues en forme de blocs sont dotés d’un dispositif de levage en forme de bras qui leur permet de soulever, déplacer et retourner les dés. S’ils réussissent à jouer, ils célèbrent leur victoire en levant les bras, en tournant en rond, en faisant des bruits d’encouragement et en clignant des yeux. En revanche, s’ils perdent, ils s’énervent bruyamment et se jettent dans tous les sens avec colère.


Les enfants sont tellement fascinés par ces robots et leurs réactions que les inventeurs de ces robots ont pu entendre des dialogues d’enfants où deux enfants de cinq ans se murmuraient l’un à l’autre de laisser le robot gagner pour qu’il ne se mette pas en colère.

Cette personnalité distincte des robots jouets est un sujet sur lequel Sherry Turkle s’est creusé les méninges dans son livre Alone Together. Elle pense qu’il est relativement facile de construire une machine de manière à ce qu’elle soit facile à utiliser – même si de nombreux utilisateurs de machines et de logiciels qui souffrent depuis longtemps affirment le contraire. En tant qu’ancien développeur de logiciels, je connais la difficulté de rendre les interfaces utilisateur intuitivement compréhensibles et faciles à utiliser pour les utilisateurs. Ce n’est en aucun cas une tâche facile.

Mais Turkle veut donner aux machines une personnalité attachante et gagnante, et c’est une tâche d’un autre niveau de difficulté. L’informaticien John Lester est même de cet avis :

À l’avenir, nous ne nous contenterons pas d’utiliser nos outils ou de les apprécier, nous voudrons même nous y intéresser et en prendre soin. Ils nous apprendront comment les traiter et comment les manipuler. Nous évoluerons vers l’amour de nos outils, et nos outils évolueront vers l’amour.

Qu’est-ce qui rend un robot ou une IA sympathique ? C’est une question avec laquelle les fabricants de chatbots se débattent, et ils ont connu des succès très ambivalents avec une seule et même technologie. Par exemple, Microsoft a connu un petit désastre avec son chatbot Tay en anglais lorsqu’il a été lâché sur Twitter. En quelques heures, ce robot, qui se faisait passer pour une adolescente de 16 ans, s’est transformé en un participant grossier et raciste sur Twitter. En revanche, la même technologie, connue dans les réseaux chinois sous le nom de Xiaoice, a recueilli des millions d’adeptes. Quelle était la différence ?

Comme l’ont découvert les chercheurs de Stanford, c’est en grande partie à cause de la façon dont l’IA est présentée. Les attentes des personnes qui interagissent avec elle seront moins élevées de la part d’un bot qui se présente comme un bambin que de celui qui est vanté au niveau des experts humains.

Aujourd’hui, les agents d’IA sont souvent associés à une sorte de métaphore. Certains, comme Siri et Alexa, sont considérés comme des assistants administratifs ; Xiaoice est projeté comme un « ami », et Woebot comme un « psychothérapeute ». Ces métaphores sont censées nous aider à comprendre et à prévoir comment ces agents d’IA sont censés être utilisés et comment ils se comporteront.

Les humains sont en général très indulgents envers les machines, comme l’a déjà montré ELIZA, un chatbot primitif se faisant passer pour un psychothérapeute. ELIZA a été développé en 1964 au MIT par Joseph Weizenbaum en tant que programme de psychothérapie, et avait pour but de montrer à quel point ces dialogues artificiels sont superficiels. Elle était conçue pour maintenir une conversation convaincante.

Weizenbaum a fait valoir que les professions qui requièrent une véritable empathie, comme dans le secteur médical, les soins gériatriques, les soldats, voire le service clientèle, ne devraient jamais être exercées par une machine. De nombreuses interactions entre les humains et les machines qui ne font pas preuve d’une véritable empathie isolent les humains et les font paraître moins précieux.

Or, c’est exactement le contraire qui s’est produit. Les personnes testées qui ont communiqué avec ELIZA ont acquis la conviction que derrière la machine se trouvait un être humain qui répondait. En effet, même s’ils comprenaient parfaitement qu’il s’agissait d’une machine, ils demandaient, après la fin de l’expérience, s’ils pouvaient passer un peu plus de temps seuls avec la machine. Il semblerait même que la secrétaire de Weizenbaum ait demandé un « rendez-vous privé » avec ELIZA.

À tout le moins, l’attente semble être une contribution à la manière de développer des intelligences artificielles, des bots et des robots aimables et donc acceptables pour l’homme. Des yeux ou des regards mignons ne suffisent pas, de toute façon. Et c’est là que cela devient vraiment passionnant, car la définition du terme « aimable » est probablement au moins aussi floue que celle de termes tels que sentiment, émotion ou conscience.


Cet article est en partie un extrait de mon livre Quand les singes enseignent aux singes : Comment l’intelligence artificielle nous rend vraiment humains. Publié en février 2020 par Plassen-Verlag.

Disponible sur Amazon et en librairie !

Quand les singes apprennent des singes

Qu’est-ce que l’intelligence au sens artificiel et humain ? Les machines peuvent-elles développer une conscience et comment le saurions-nous ? Les machines sont-elles capables d’empathie et de sentiments ? Le Dr Mario Herger, gourou de l’innovation, apporte des réponses à ces questions. Il souligne les nombreuses opportunités et les impacts positifs de l’IA sur tous les aspects de la vie sociale et économique. Des conversations passionnantes avec des leaders d’opinion et des praticiens de l’IA de la Silicon Valley apportent aux lecteurs de nouveaux points de vue et de nouvelles mentalités. Un guide indispensable de l’IA pour le présent et l’avenir !

Laisser un commentaire