Nick Dimichino, un utilisateur de LinkedIn, a récemment été témoin d’un comportement troublant lors d’un vol. Il a vu un autre passager utiliser Claude, le chatbot de la société Anthropic basée à San Francisco, et l’insulter verbalement pendant trois heures.
Est-ce que nous voudrions embaucher ou fréquenter quelqu’un dont nous savons qu’il frappe, viole ou maltraite des robots ? Nous ne voudrions certainement pas embaucher ni fréquenter quelqu’un qui torture des chats ou qui frappe ses enfants ou son partenaire. Nous appellerions sans doute la police. Mais qu’en est-il des robots ou des modèles linguistiques basés sur l’IA ?
Les enfants ont tendance à se montrer assez grossiers avec les assistants vocaux comme Siri ou Alexa. Comme ceux-ci réagissent toujours de manière aimable et serviable, les enfants testent leurs limites en leur lançant des insultes de plus en plus violentes. Les bons parents veulent toutefois que leurs enfants disent « s’il te plaît » et « merci ». Mais faut-il vraiment le faire avec une IA ou un robot ? Surtout quand les entreprises nous disent que ces formules de politesse consomment du temps de calcul, et donc de l’énergie et de l’eau de refroidissement. Les parents soucieux de l’environnement et attachés à la politesse se retrouvent ici face à un dilemme.
Des roboticiens japonais ont observé comment, dans un centre commercial, des enfants bloquaient et malmenaient un robot de service en se mettant en travers de son chemin et en commençant même à le frapper. Pour éviter cela, les Japonais ont trouvé une solution : dès que de petits enfants s’approchaient du robot, celui-ci se rapprochait de personnes de grande taille, c’est-à-dire d’adultes. En effet, ces derniers ont tendance à empêcher les enfants de s’en prendre au robot.
Patrick Lin, directeur du « Ethics and Emerging Sciences Group » de la California Polytechnic State University, considère que l’utilisation de robots à ces fins pourrait constituer un recul. En effet, cela nous rendrait, nous les humains, moins humains, car nous recourrions à la violence au lieu de négocier et de conclure des accords.
Dans une conférence TED, Kate Darling, spécialiste en éthique des robots au MIT, raconte comment elle a montré à un ami un petit robot dinosaure. Ce petit robot, appelé Pleo, était équipé de plusieurs capteurs et moteurs ; il pouvait se déplacer et bouger la tête, mais aussi détecter s’il était debout ou couché. Lorsqu’il était couché ou penché vers le bas, il se mettait à pleurer. L’ami de Darling a examiné le robot en le tenant à l’envers, ce qui a provoqué les pleurs du robot. Darling s’est sentie tellement mal à l’aise qu’elle a repris le robot à son ami. Sa réaction, cette compassion pour le robot dinosaure qui n’était finalement rien d’autre qu’un jouet, l’a elle-même étonnée, et elle s’est demandé pourquoi nous tissons des liens émotionnels avec des machines.
On peut voir un autre exemple dans la vidéo suivante, où un robot livreur à quatre roues de Serve Robotics, ne disposant pas de mains, ne parvient pas à actionner le bouton d’un feu de signalisation et demande donc de l’aide aux passants. L’un des passants refuse d’aider le robot, car il estime que ce genre de robots prend les emplois et la place des humains dans le monde. Il ne s’en tient pas là : il insulte même le robot et lui dit ce qu’il pense de lui.
Si une personne en insultait une autre de cette manière, nous y prêterions certainement attention et interviendrions peut-être. Mais nous ne nous rangerions sans doute pas du côté de l’agresseur. S’il en venait aux mains avec cette personne sans raison, ce serait alors le moment pour nous d’appeler la police.
Comme les êtres humains ont tendance à anthropomorphiser les machines, qu’il s’agisse de robots ou simplement de chatbots, on comprend pourquoi notre réaction face à ces abus, comme dans les exemples cités, suscite en nous des réactions aussi viscérales. Nous souffrons avec eux et condamnons ceux qui leur infligent cette souffrance.
En conséquence, nous devrons sans doute également nous demander dans quelle mesure il faudra, à l’avenir, accorder des droits aux robots ou aux modèles d’IA, afin que de tels abus ne puissent pas rester impunis et, par conséquent, ne soient pas reproduits à l’encontre d’êtres humains. On peut en effet supposer qu’une personne qui abuse d’une machine ne s’arrêtera pas devant d’autres êtres humains.