{"id":3755,"date":"2021-03-18T23:33:50","date_gmt":"2021-03-18T22:33:50","guid":{"rendered":"https:\/\/technophilosoph.com\/2021\/04\/09\/les-stereotypes-de-genre-dans-lia-de-traduction-de-google\/"},"modified":"2021-08-08T04:50:46","modified_gmt":"2021-08-08T03:50:46","slug":"les-stereotypes-de-genre-dans-lia-de-traduction-de-google","status":"publish","type":"post","link":"https:\/\/technophilosoph.com\/fr\/2021\/03\/18\/les-stereotypes-de-genre-dans-lia-de-traduction-de-google\/","title":{"rendered":"Les st\u00e9r\u00e9otypes de genre dans l’IA de traduction de Google."},"content":{"rendered":"\n

Le biais des donn\u00e9es caus\u00e9 par des donn\u00e9es mal trait\u00e9es appara\u00eet de plus en plus comme un probl\u00e8me important dans le d\u00e9veloppement de l’intelligence artificielle. Il est important de savoir que l’IA d’aujourd’hui est aliment\u00e9e par des millions et des millions de donn\u00e9es gr\u00e2ce \u00e0 l’apprentissage automatique. La provenance de ces donn\u00e9es, ainsi que les personnes qui les s\u00e9lectionnent et les compilent, sont essentielles dans ce processus. Si un tel ensemble de donn\u00e9es, cens\u00e9 reconna\u00eetre des visages, comporte principalement des visages \u00e0 la peau claire ou plus d’hommes que de femmes, ces visages sont bien reconnus, mais l’IA commet alors plus d’erreurs avec les femmes ou les personnes \u00e0 la peau fonc\u00e9e, ou m\u00eame en combinaison avec la reconnaissance faciale des femmes \u00e0 la peau fonc\u00e9e.<\/p>\n\n\n\n

Si cela n’est pas si tragique avec la reconnaissance faciale, avec d’autres syst\u00e8mes, cela peut \u00eatre une question de vie ou de mort, de prison ou de libert\u00e9, de cr\u00e9dit ou de rejet. Un autre \u00e9cueil est que les st\u00e9r\u00e9otypes humains sont ancr\u00e9s et approfondis dans le syst\u00e8me. Anna Kholina, une Russe vivant \u00e0 Helsinki, a d\u00e9couvert un tel cas. Elle a demand\u00e9 \u00e0 Google Translate, un logiciel de traduction en ligne bas\u00e9 sur l’IA, de traduire quelques phrases du finnois, langue neutre, vers l’anglais. Le r\u00e9sultat refl\u00e8te les st\u00e9r\u00e9otypes de genre. Les phrases que le syst\u00e8me associait \u00e0 des activit\u00e9s typiquement f\u00e9minines ont \u00e9t\u00e9 traduites avec le cas f\u00e9minin, tandis que celles qui concernaient des activit\u00e9s typiquement masculines ont \u00e9t\u00e9 traduites avec le cas masculin.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Ces traductions posent un probl\u00e8me lorsqu’il s’agit d’\u00e9radiquer les st\u00e9r\u00e9otypes de genre. Le fait que les femmes aient le droit de voter, d’\u00e9tudier et d’exercer des professions, et que m\u00eame des r\u00f4les qui n’\u00e9taient ouverts qu’aux hommes jusqu’\u00e0 r\u00e9cemment puissent \u00eatre exerc\u00e9s comme une \u00e9vidence, ne va pas de soi et a \u00e9galement beaucoup \u00e0 voir avec le langage et la mise en \u00e9vidence des opportunit\u00e9s. <\/p>\n\n\n\n

La raison pour laquelle Google Translate diffuse de tels st\u00e9r\u00e9otypes s’explique rapidement : les textes sous-jacents, \u00e9crits par des humains, perp\u00e9tuaient ces r\u00f4les de genre tr\u00e8s traditionnels jusqu’\u00e0 il n’y a pas si longtemps. La femme se tient devant l’\u00e2tre, l’homme va au travail. La femme s’occupe des enfants, l’homme fait du sport. L’IA apprend de ces \u00e9chantillons de textes que les enfants et le foyer sont plus souvent associ\u00e9s \u00e0 la femme (et \u00e0 elle) que les enfants et le foyer \u00e0 l’homme. Le syst\u00e8me s\u00e9lectionne ensuite les combinaisons les plus probables \u00e0 partir de ces corr\u00e9lations. \u00c0 l’inverse, les st\u00e9r\u00e9otypes n\u00e9gatifs sont \u00e9galement renforc\u00e9s, comme le montre l’exemple des junkies, des stupides et des alcooliques. Ces caract\u00e9ristiques sont traduites comme masculines.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

C’est pr\u00e9cis\u00e9ment la raison pour laquelle la s\u00e9lection des donn\u00e9es est si importante dans les syst\u00e8mes d’IA d’aujourd’hui. En allemand, d’ailleurs, le r\u00e9sultat n’est pas tr\u00e8s diff\u00e9rent :<\/p>\n\n\n\n

\"\"
Avec l’outil de traduction automatique allemand DeepL, le r\u00e9sultat est un peu meilleur, mais pas parfait non plus :<\/figcaption><\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n

Toutefois, une diff\u00e9rence a \u00e9t\u00e9 d\u00e9couverte par les utilisateurs qui n’ont pas utilis\u00e9 l’interface anglophone de Google Translate, mais l’interface finlandaise. Dans cette derni\u00e8re, l’outil de traduction proposait des variantes masculines et f\u00e9minines.<\/p>\n\n\n\n