Les stéréotypes de genre dans l’IA de traduction de Google.

Le biais des données causé par des données mal traitées apparaît de plus en plus comme un problème important dans le développement de l’intelligence artificielle. Il est important de savoir que l’IA d’aujourd’hui est alimentée par des millions et des millions de données grâce à l’apprentissage automatique. La provenance de ces données, ainsi que les personnes qui les sélectionnent et les compilent, sont essentielles dans ce processus. Si un tel ensemble de données, censé reconnaître des visages, comporte principalement des visages à la peau claire ou plus d’hommes que de femmes, ces visages sont bien reconnus, mais l’IA commet alors plus d’erreurs avec les femmes ou les personnes à la peau foncée, ou même en combinaison avec la reconnaissance faciale des femmes à la peau foncée.

Si cela n’est pas si tragique avec la reconnaissance faciale, avec d’autres systèmes, cela peut être une question de vie ou de mort, de prison ou de liberté, de crédit ou de rejet. Un autre écueil est que les stéréotypes humains sont ancrés et approfondis dans le système. Anna Kholina, une Russe vivant à Helsinki, a découvert un tel cas. Elle a demandé à Google Translate, un logiciel de traduction en ligne basé sur l’IA, de traduire quelques phrases du finnois, langue neutre, vers l’anglais. Le résultat reflète les stéréotypes de genre. Les phrases que le système associait à des activités typiquement féminines ont été traduites avec le cas féminin, tandis que celles qui concernaient des activités typiquement masculines ont été traduites avec le cas masculin.

Ces traductions posent un problème lorsqu’il s’agit d’éradiquer les stéréotypes de genre. Le fait que les femmes aient le droit de voter, d’étudier et d’exercer des professions, et que même des rôles qui n’étaient ouverts qu’aux hommes jusqu’à récemment puissent être exercés comme une évidence, ne va pas de soi et a également beaucoup à voir avec le langage et la mise en évidence des opportunités.

Continuer de lire « Les stéréotypes de genre dans l’IA de traduction de Google. »

FaceApp et la jolie fille à la moto

Un compte Twitter sans prétention mettant en scène une jolie jeune femme qui s’est révélée être une passionnée de moto a gagné de nombreux fans au Japon. On l’a vue à plusieurs reprises poser devant la moto, se tenir au bord de la mer avec sa moto ou la bricoler dans son atelier.

Jusqu’à ce que quelqu’un découvre des incohérences. Par exemple, une photo montrait un bras avec un peu trop de cheveux, et dans un miroir, qui était visible sur une photo, un autre détail curieux. Le reflet était très différent de celui de la jeune femme. Cette personne était non seulement beaucoup plus âgée, mais aussi un homme.

Continuer de lire « FaceApp et la jolie fille à la moto »

Comment concevoir un robot adorable ?

Dans une conférence TED, l’éthicienne des robots Kate Darling du MIT décrit comment elle a fait la démonstration d’un petit robot dinosaure à un ami. Ce petit robot nommé Pleo avait quelques capteurs et moteurs intégrés, il pouvait marcher et bouger sa tête, mais il pouvait aussi savoir s’il était debout ou couché. S’il était couché ou suspendu, il se mettait à pleurer. L’ami de Darling a examiné le robot en le tenant à l’envers, ce qui a provoqué les pleurs du robot. Darling s’est sentie si mal à l’aise en faisant cela qu’elle a repris le robot à son amie.

Robot-jouet Pleo

Sa réaction à cela, cette pitié pour le robot dinosaure, qui n’était finalement qu’un jouet, l’a étonnée elle-même, et elle s’est demandée pourquoi nous formons des liens émotionnels avec les machines.

La réaction de Darling n’était pas inhabituelle ; cela arrive à d’autres. Dans l’ouvrage de P. W. Singer intitulé « Wired for War« , les soldats américains parlent de « robot hôpital » plutôt que de « Joint Robotics Repair Facility », où ils envoient leurs drones et leurs robots de déminage en réparation. Ces mêmes soldats donnent à leurs robots des « funérailles avec tous les honneurs militaires ». Et enfin, nous avons déjà entendu parler des Kiwibots renversés qui sont immédiatement remis en place par les passants parce qu’ils avaient l’air si « tristes ». Tout cela nous montre que nous, les humains, sommes très prompts à établir de telles connexions émotionnelles. Tout ce qui bouge et ressemble à la vie peut éveiller notre compassion.

Continuer de lire « Comment concevoir un robot adorable ? »