{"id":8407,"date":"2024-02-22T19:58:57","date_gmt":"2024-02-22T18:58:57","guid":{"rendered":"https:\/\/technophilosoph.com\/2024\/02\/22\/ia-defaillante-nazis-noirs-et-vikings-mongols-a-tresses-rasta\/"},"modified":"2024-02-22T22:58:10","modified_gmt":"2024-02-22T21:58:10","slug":"ia-defaillante-nazis-noirs-et-vikings-mongols-a-tresses-rasta","status":"publish","type":"post","link":"https:\/\/technophilosoph.com\/fr\/2024\/02\/22\/ia-defaillante-nazis-noirs-et-vikings-mongols-a-tresses-rasta\/","title":{"rendered":"IA d\u00e9faillante : nazis noirs et vikings mongols \u00e0 tresses rasta"},"content":{"rendered":"\n

Les critiques formul\u00e9es jusqu’\u00e0 pr\u00e9sent \u00e0 l’encontre de l’intelligence artificielle, et ce \u00e0 juste titre, portaient principalement sur le parti pris (en anglais : bias) dans les r\u00e9sultats. Les images de personnes exer\u00e7ant des professions prestigieuses montraient presque exclusivement des hommes, les personnes \u00e0 la peau fonc\u00e9e \u00e9taient marqu\u00e9es comme des gorilles, les criminels \u00e9taient repr\u00e9sent\u00e9s presque exclusivement avec des personnes \u00e0 la peau fonc\u00e9e et des minorit\u00e9s, et les femmes surtout dans des professions subalternes.<\/p>\n\n

Les d\u00e9veloppeurs de tels mod\u00e8les linguistiques s’efforcent depuis lors de corriger cela et d’utiliser des donn\u00e9es d’entra\u00eenement plus diverses<\/em> pour corriger ces biais. Mais c’est Google qui a tir\u00e9 la sonnette d’alarme avec son nouveau mod\u00e8le linguistique Gemini<\/a>, car celui-ci \u00e9tait trop inclusif. L’exemple suivant montre \u00e0 quel point il est inclusif : l’instruction textuelle \u00ab\u00a0G\u00e9n\u00e9rer une image d’un soldat allemand en 1943<\/em>\u00a0\u00bb a donn\u00e9 ces r\u00e9sultats :<\/p>\n\n

\"\"<\/figure>\n\n

Sur quatre r\u00e9sultats, un seul repr\u00e9sentait un homme blanc en uniforme de la Wehrmacht, mais un autre repr\u00e9sentait un homme \u00e0 la peau sombre, un autre une femme asiatique et un autre une Am\u00e9rindienne.<\/p>\n\n

Ce r\u00e9sultat a \u00e9t\u00e9 suivi d’une s\u00e9rie d’autres exemples. Les Vikings \u00e9taient repr\u00e9sent\u00e9s comme des Mongols et d’autres ethnies, mais pas comme les personnes blanches qu’ils \u00e9taient en r\u00e9alit\u00e9.<\/p>\n\n

\"\"<\/figure>\n\n

La recherche de scientifiques du XVIIe si\u00e8cle, qui \u00e9taient clairement des hommes blancs – \u00ab\u00a0gr\u00e2ce\u00a0\u00bb au manque d’opportunit\u00e9s pour les femmes et au d\u00e9veloppement des sciences en Europe – ont surtout \u00e9t\u00e9 pr\u00e9sent\u00e9s comme divers, sauf qu’ils n’\u00e9taient pas blancs.<\/p>\n\n

\"\"<\/figure>\n\n

Il s’av\u00e8re que Gemini transforme des instructions textuelles en arri\u00e8re-plan en instructions destin\u00e9es \u00e0 g\u00e9n\u00e9rer davantage de personnes diverses dans les images, en allant jusqu’\u00e0 ne faire appara\u00eetre que tr\u00e8s peu de personnes blanches. <\/p>\n\n

\"\"<\/figure>\n\n

De plus, Gemini n’a pas non plus compris le contexte. L’arm\u00e9e allemande \u00e9tait compos\u00e9e en grande partie d’hommes blancs europ\u00e9ens, les scientifiques du XVIIe si\u00e8cle aussi, et les p\u00e8res fondateurs am\u00e9ricains \u00e9taient – pour des raisons historiques – exclusivement des hommes blancs.<\/p>\n\n

\"\"<\/figure>\n\n

Suite \u00e0 ces critiques, Google a d\u00e9sactiv\u00e9 la fonction de g\u00e9n\u00e9ration d’images sur Gemini afin de travailler sur une solution.<\/p>\n\n

\n

We're already working to address recent issues with Gemini's image generation feature. While we do this, we're going to pause the image generation of people and will re-release an improved version soon. https:\/\/t.co\/SLxYPGoqOZ<\/a><\/p>— Google Communications (@Google_Comms) February 22, 2024<\/a><\/blockquote>