On parle d’intelligence artificielle \u00ab sycophante \u00bb lorsqu’un chatbot a tendance \u00e0 toujours donner raison \u00e0 l’utilisateur, m\u00eame lorsqu’il ne devrait pas le faire ou lorsque des \u00eatres humains ne prendraient certainement pas le parti de l’utilisateur. <\/p>\n\n
Imaginons que, en tant qu’utilisateurs, nous ayons honte d’avoir manqu\u00e9 de gentillesse envers quelqu’un ou d’avoir commis un acte que nous regrettons. Un \u00eatre humain nous le ferait plut\u00f4t remarquer sans d\u00e9tour et nous r\u00e9primanderait, tandis qu’une IA sycophante trouverait des raisons pour justifier cet acte. Une telle IA laisse passer les \u00e9carts de conduite sans les remettre en question, voire en les encourageant, et ne nous demande pas de rendre des comptes. <\/p>\n\n
Pour nous, les humains, cela semble \u00e0 premi\u00e8re vue souhaitable, car qui aime se faire passer un savon, m\u00eame si nous savons pertinemment que nous avons commis une faute ?<\/p>\n\n
Myra Cheng, doctorante \u00e0 Stanford, a remarqu\u00e9 que certains de ses camarades de classe faisaient appel \u00e0 des chatbots pour r\u00e9diger les SMS qu’ils comptaient envoyer \u00e0 leur partenaire pour rompre. Elle a d\u00e9cid\u00e9 de mener une \u00e9tude visant \u00e0 d\u00e9terminer les suggestions de texte propos\u00e9es par les 11 mod\u00e8les d’IA les plus populaires. Cette \u00e9tude a fait la une du magazine Science<\/a>, et ses r\u00e9sultats sont effrayants. <\/p>\n\n Dans une premi\u00e8re exp\u00e9rience, on a mesur\u00e9 la fr\u00e9quence \u00e0 laquelle une IA approuvait les utilisateurs par rapport \u00e0 un interlocuteur humain. Au total, dans 49 % des cas, l’IA a dit ce que l’utilisateur voulait entendre. Dans les situations o\u00f9 les utilisateurs ont admis avoir menti \u00e0 un partenaire, manipul\u00e9 d\u00e9lib\u00e9r\u00e9ment un ami ou commis un acte ill\u00e9gal, l’IA les a tout de m\u00eame approuv\u00e9s dans plus de 47 % des cas, soit plus souvent que ne l’auraient fait des humains. <\/p>\n\n Dans une deuxi\u00e8me exp\u00e9rience, 2 400 participants ont \u00e9t\u00e9 mis en relation soit avec une IA sycophante, soit avec une IA honn\u00eate, et divers sc\u00e9narios de conflits interpersonnels ont \u00e9t\u00e9 simul\u00e9s. Les participants mis en relation avec une IA sycophante \u00e9taient, apr\u00e8s leur conversation avec celle-ci, davantage convaincus d’avoir raison et moins dispos\u00e9s \u00e0 s’excuser, \u00e0 assumer leurs responsabilit\u00e9s ou \u00e0 se r\u00e9concilier avec l’autre personne. Ces participants avaient \u00e9galement davantage tendance \u00e0 vouloir utiliser l’IA sycophante \u00e0 l’avenir pour de tels sc\u00e9narios de conflit. <\/p>\n\n Die KI sagt den Teilnehmern nicht einfach nur das, was sie h\u00f6ren wollten. Es trainierte sie, Gespr\u00e4ch f\u00fcr Gespr\u00e4ch, darauf, Reibung zu vermeiden, mehr \u00dcbereinstimmung zu erwarten und etwas weniger gut damit umgehen zu k\u00f6nnen, wenn ihnen jemand widerspricht. Die Teilnehmer genie\u00dfen jede Sekunde davon, weil es sich ehrlicher anf\u00fchlt als die meisten Gespr\u00e4che, die sie seit Monaten gef\u00fchrt haben.<\/p>\n\n Les auteurs de l’\u00e9tude ont conclu que la soumission des mod\u00e8les d’IA constituait un risque pour la s\u00e9curit\u00e9 et qu’il \u00e9tait donc n\u00e9cessaire de mettre en place une r\u00e9glementation et une surveillance.<\/p>\n\n Cheng a lanc\u00e9 cette \u00e9tude apr\u00e8s avoir observ\u00e9 ses camarades de classe discuter de leurs probl\u00e8mes relationnels avec l’IA ; en cons\u00e9quence, les conseils et les remarques de cette IA sycophante ont d\u00e9t\u00e9rior\u00e9 leurs relations sans qu’ils s’en rendent compte, car l’IA leur semblait tellement sinc\u00e8re.<\/p>\n\n Cliquez ici<\/a> pour consulter l’\u00e9tude.<\/p>\n","protected":false},"excerpt":{"rendered":"