{"id":5052,"date":"2021-08-12T00:09:29","date_gmt":"2021-08-11T23:09:29","guid":{"rendered":"https:\/\/technophilosoph.com\/2021\/08\/12\/roentgenbilder-verraten-ki-die-menschliche-rasse-und-experten-wissen-nicht-wie\/"},"modified":"2021-08-12T00:21:41","modified_gmt":"2021-08-11T23:21:41","slug":"les-radiographies-racontent-ai-la-race-humaine-et-les-experts-ne-savent-pas-comment","status":"publish","type":"post","link":"https:\/\/technophilosoph.com\/fr\/2021\/08\/12\/les-radiographies-racontent-ai-la-race-humaine-et-les-experts-ne-savent-pas-comment\/","title":{"rendered":"Les radiographies racontent AI la race humaine et les experts ne savent pas comment"},"content":{"rendered":"\n

Il y a plus de quatre ans, des chercheurs de l’universit\u00e9 de Stanford ont montr\u00e9 dans une \u00e9tude<\/a> qu’une intelligence artificielle (IA) \u00e9tait meilleure que l’homme pour d\u00e9terminer l’orientation sexuelle d’une personne sur la base de photos de portraits. L’IA a \u00e9t\u00e9 capable d’identifier si quelqu’un \u00e9tait homosexuel ou non avec une pr\u00e9cision allant jusqu’\u00e0 81 %. Avec cinq photos par personne comme mat\u00e9riel de base, la fiabilit\u00e9 a m\u00eame atteint jusqu’\u00e0 91 %. Le r\u00e9sultat a d\u00e9j\u00e0 donn\u00e9 la chair de poule \u00e0 l’\u00e9poque, tant dans la communaut\u00e9 LGBTQ que parmi les militants des droits de l’homme. On peut facilement imaginer que les \u00c9tats qui criminalisent l’homosexualit\u00e9 pourraient utiliser une telle proc\u00e9dure pour prendre des mesures contre leurs concitoyens. Cela rappelle des souvenirs douloureux de la doctrine raciale du Troisi\u00e8me Reich.<\/p>\n\n\n\n

Dans l’\u00e9tude de Stanford, les chercheurs avaient eux-m\u00eames tr\u00e8s bien compris sur la base de quels crit\u00e8res l’IA pouvait faire la distinction. Il s’agissait de certains traits des visages tels qu’ils \u00e9taient repr\u00e9sent\u00e9s sur les photos de test. Mais une nouvelle \u00e9tude laisse les chercheurs perplexes quant \u00e0 la mani\u00e8re dont l’IA parvient \u00e0 ses conclusions.<\/p>\n\n\n\n

Une \u00e9tude<\/a> r\u00e9alis\u00e9e par un groupe de recherche am\u00e9ricain montre comment une IA parvient \u00e0 distinguer les patients asiatiques, noirs et blancs \u00e0 partir de radiographies et de tomographies par ordinateur. Ce qui est surprenant, c’est que les experts humains eux-m\u00eames ne peuvent pas faire une telle classification, et il n’y a m\u00eame pas de crit\u00e8res pour une telle distinction.<\/p>\n\n\n\n

Les mod\u00e8les d’intelligence artificielle ont \u00e9t\u00e9 entra\u00een\u00e9s sur un r\u00e9seau d’images (ImageNet) contenant un ensemble de radiographies du thorax, des membres, du sein et de la colonne vert\u00e9brale. Ces images comportaient une cat\u00e9gorie autod\u00e9clar\u00e9e par race. L’IA a ensuite \u00e9t\u00e9 capable d’\u00e9tablir une correspondance correcte entre 80 et 97 %.<\/p>\n\n\n\n

Les auteurs de l’\u00e9tude ont tent\u00e9 de reconstituer les r\u00e9sultats de l’IA et de les d\u00e9terminer par des param\u00e8tres tels que l’\u00e2ge, le sexe, la masse corporelle ou la densit\u00e9 tissulaire, mais ceux-ci se sont av\u00e9r\u00e9s peu significatifs. L’IA a m\u00eame \u00e9t\u00e9 capable de parvenir \u00e0 un r\u00e9sultat correct lorsque les images \u00e9taient de mauvaise qualit\u00e9.<\/p>\n\n\n\n

Si l’on ne comprend pas comment l’IA arrive \u00e0 ses conclusions, elle risque d’utiliser la race du patient pour faire des suggestions et prendre des d\u00e9cisions qui d\u00e9savantagent certains groupes. Et les experts humains ne seraient m\u00eame pas capables de voir et de comprendre cela.<\/p>\n\n\n\n

Voici ce que disent les chercheurs eux-m\u00eames :<\/p>\n\n\n\n

Nous soulignons que la capacit\u00e9 du mod\u00e8le \u00e0 pr\u00e9dire la race autod\u00e9clar\u00e9e n’est pas importante en soi. Cependant, notre d\u00e9couverte que l’IA peut trivialement pr\u00e9dire la race autod\u00e9clar\u00e9e – m\u00eame \u00e0 partir d’images m\u00e9dicales corrompues, recadr\u00e9es et bruyantes – dans un environnement o\u00f9 les experts cliniques ne peuvent pas le faire, cr\u00e9e un risque \u00e9norme pour tous les d\u00e9ploiements de mod\u00e8les d’imagerie m\u00e9dicale : si un mod\u00e8le d’IA utilise secr\u00e8tement sa connaissance de la race autod\u00e9clar\u00e9e pour mal classer tous les patients noirs, les radiologues ne seraient pas en mesure de le d\u00e9tecter \u00e0 partir des m\u00eames donn\u00e9es auxquelles le mod\u00e8le a acc\u00e8s.<\/p><\/blockquote>\n\n\n\n

En tant qu’\u00eatres humains, nous reconnaissons que les r\u00e9seaux neuronaux peuvent interpr\u00e9ter des informations, telles que celles que l’on trouve dans les radiographies et les tomodensitogrammes, d’une mani\u00e8re que nous n’avions jamais vue auparavant. Comprendre comment un r\u00e9seau neuronal proc\u00e8de nous offre la possibilit\u00e9 d’identifier, d’att\u00e9nuer ou de pr\u00e9venir compl\u00e8tement les \u00e9ventuels biais et pr\u00e9jug\u00e9s cognitifs.<\/p>\n","protected":false},"excerpt":{"rendered":"

Il y a plus de quatre ans, des chercheurs de l’universit\u00e9 de Stanford ont montr\u00e9 dans une \u00e9tude qu’une intelligence artificielle (IA) \u00e9tait meilleure que l’homme pour d\u00e9terminer l’orientation sexuelle d’une personne sur la base de photos de portraits. L’IA … Continuer de lire Les radiographies racontent AI la race humaine et les experts ne savent pas comment<\/span><\/a><\/p>\n","protected":false},"author":8770504,"featured_media":5049,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_coblocks_attr":"","_coblocks_dimensions":"","_coblocks_responsive_height":"","_coblocks_accordion_ie_support":"","_crdt_document":"","advanced_seo_description":"","jetpack_seo_html_title":"","jetpack_seo_noindex":false,"jetpack_post_was_ever_published":false,"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":false,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"_wpas_customize_per_network":false},"categories":[694240474],"tags":[],"class_list":{"0":"post-5052","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","6":"hentry","7":"category-intelligence-artificielle","9":"fallback-thumbnail"},"jetpack_publicize_connections":[],"jetpack_featured_media_url":"https:\/\/i0.wp.com\/technophilosoph.com\/wp-content\/uploads\/2021\/08\/Ct-workstation-neck.jpg?fit=2000%2C996&ssl=1","jetpack_likes_enabled":true,"jetpack_sharing_enabled":true,"jetpack_shortlink":"https:\/\/wp.me\/p72hdn-1ju","amp_enabled":true,"_links":{"self":[{"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/posts\/5052","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/users\/8770504"}],"replies":[{"embeddable":true,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/comments?post=5052"}],"version-history":[{"count":1,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/posts\/5052\/revisions"}],"predecessor-version":[{"id":5059,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/posts\/5052\/revisions\/5059"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/media\/5049"}],"wp:attachment":[{"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/media?parent=5052"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/categories?post=5052"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/tags?post=5052"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}