{"id":8861,"date":"2024-06-09T01:35:13","date_gmt":"2024-06-09T00:35:13","guid":{"rendered":"https:\/\/technophilosoph.com\/2024\/06\/09\/pourquoi-nous-faisons-confiance-a-lintelligence-artificielle-malgre-leffet-amnesique-de-gellmann\/"},"modified":"2024-06-09T01:47:52","modified_gmt":"2024-06-09T00:47:52","slug":"pourquoi-nous-faisons-confiance-a-lintelligence-artificielle-malgre-leffet-amnesique-de-gellmann","status":"publish","type":"post","link":"https:\/\/technophilosoph.com\/fr\/2024\/06\/09\/pourquoi-nous-faisons-confiance-a-lintelligence-artificielle-malgre-leffet-amnesique-de-gellmann\/","title":{"rendered":"Pourquoi nous faisons confiance \u00e0 l’intelligence artificielle malgr\u00e9 l’effet amn\u00e9sique de Gellmann"},"content":{"rendered":"\n

Qui d’entre nous n’a pas secou\u00e9 la t\u00eate ou le ventre de rire en lisant des r\u00e9ponses manifestement erron\u00e9es ou en voyant les images de soldats asiatiques ou noirs de la Wehrmacht<\/a> que les IA g\u00e9n\u00e9ratives avaient renvoy\u00e9es comme r\u00e9sultat ?<\/p>\n\n\n\n

\"\"<\/a><\/figure>\n\n\n\n

Une telle IA peut-elle \u00eatre aussi stupide ?<\/em>C’est ce que beaucoup ont pens\u00e9. Mais dans la foul\u00e9e, on assiste \u00e0 une curieuse r\u00e9action : ces m\u00eames personnes – c’est-\u00e0-dire nous tous – qui venaient de sourire de l’absurdit\u00e9 de l’IA prennent volontiers pour argent comptant les r\u00e9sultats de ChatGPT ou Gemini, sans trop se poser de questions. Ces r\u00e9ponses doivent \u00eatre vraies, \u00e7a a l’air g\u00e9nial, non ?<\/p>\n\n\n\n

Comment en est-on arriv\u00e9 \u00e0 ce paradoxe qui devrait pourtant nous para\u00eetre \u00e9vident ? Ce paradoxe a m\u00eame un nom, m\u00eame s’il n’est pas scientifique : il s’agit de l’effet amn\u00e9sique de Gell Mann<\/em>.<\/p>\n\n\n\n

L’auteur populaire Michael Crichton a nomm\u00e9 cet effet d’apr\u00e8s son ami physicien Murray Gell-Mann<\/a>, qui avait remarqu\u00e9 comment, par exemple, les lecteurs de journaux, apr\u00e8s avoir \u00e9tudi\u00e9 un article erron\u00e9 sur un sujet qu’ils connaissent eux-m\u00eames tr\u00e8s bien, se contentent de secouer la t\u00eate et consid\u00e8rent le compte rendu \u00e0 ce sujet comme d\u00e9form\u00e9, erron\u00e9 et incompr\u00e9hensible. Mais s’ils continuent \u00e0 feuilleter un article sur un autre sujet qu’ils ne connaissent que peu, ils font presque enti\u00e8rement confiance aux informations contenues dans cet article.<\/p>\n\n\n\n

Pour reprendre les termes de Michael Crichton, qui a pr\u00e9sent\u00e9 cet effet pour la premi\u00e8re fois dans un discours en 2002, voici ce qu’il en est :<\/p>\n\n\n\n

\n

En bref, l’effet amn\u00e9sique de Gell Mann se pr\u00e9sente comme suit. Vous ouvrez le journal et lisez un article sur un sujet que vous connaissez bien. Dans le cas de Murray : la physique. Dans mon cas, le show-business. Vous lisez l’article et constatez que le journaliste ne comprend rien ni aux faits ni au sujet. Souvent, l’article est tellement faux qu’il inverse la cause et l’effet. C’est ce que j’appelle les \u00ab\u00a0routes mouill\u00e9es provoquent la pluie\u00a0\u00bb. Le journal en est plein.<\/p>\n\n\n\n

Dans tous les cas, on lit avec agacement ou amusement les nombreuses erreurs d’une histoire, puis on passe aux affaires nationales ou internationales et on lit comme si le reste du journal \u00e9tait d’une mani\u00e8re ou d’une autre plus pr\u00e9cis sur la Palestine que les conneries que l’on vient de lire. On tourne la page et on oublie ce qu’on sait.<\/p>\n\n\n\n

C’est l’effet amn\u00e9sique de Gell-Man. Je tiens \u00e0 souligner qu’il ne fonctionne pas dans d’autres domaines de la vie. Dans la vie normale, si quelqu’un exag\u00e8re ou ment constamment, on oublie vite tout ce qu’il dit. En justice, le principe juridique falsus in uno, falsus in omnibus<\/strong>, c’est-\u00e0-direfaux dans une partie, faux dans toutes<\/strong>, s’applique. Mais quand il s’agit des m\u00e9dias, nous pensons, contrairement aux preuves, qu’il vaut probablement la peine de lire d’autres parties du journal. Mais en r\u00e9alit\u00e9, il est presque certain que ce n’est pas le cas. La seule explication possible de notre comportement est l’amn\u00e9sie.<\/p>\n<\/blockquote>\n\n\n\n

Avec l’IA, on ne tourne pas la page, l’amn\u00e9sie survient \u00e0 l’invite suivante. Et c’est en quelque sorte compr\u00e9hensible. En effet, il est vraiment fastidieux et chronophage de remettre en question chaque d\u00e9claration de l’IA, d’enqu\u00eater sur chaque d\u00e9tail et de rester m\u00e9fiant. A cela s’ajoute le fait que l’IA a tendance \u00e0 donner ses r\u00e9ponses avec une grande autorit\u00e9. Ce qu’elle dit sonne tellement bien et est pr\u00e9sent\u00e9 avec une telle assurance qu’il ne nous vient m\u00eame pas \u00e0 l’esprit de rester sceptiques. Et cela arrive aux meilleurs d’entre nous : les journalistes, les avocats ou les blogueurs.<\/p>\n","protected":false},"excerpt":{"rendered":"

Qui d’entre nous n’a pas secou\u00e9 la t\u00eate ou le ventre de rire en lisant des r\u00e9ponses manifestement erron\u00e9es ou en voyant les images de soldats asiatiques ou noirs de la Wehrmacht que les IA g\u00e9n\u00e9ratives avaient renvoy\u00e9es comme r\u00e9sultat … Continuer de lire Pourquoi nous faisons confiance \u00e0 l’intelligence artificielle malgr\u00e9 l’effet amn\u00e9sique de Gellmann<\/span><\/a><\/p>\n","protected":false},"author":8770504,"featured_media":8855,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_coblocks_attr":"","_coblocks_dimensions":"","_coblocks_responsive_height":"","_coblocks_accordion_ie_support":"","_crdt_document":"","advanced_seo_description":"","jetpack_seo_html_title":"","jetpack_seo_noindex":false,"jetpack_post_was_ever_published":false,"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"_wpas_customize_per_network":false},"categories":[694240474,694240636,694240488],"tags":[],"class_list":{"0":"post-8861","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","6":"hentry","7":"category-intelligence-artificielle","8":"category-naturliche-intelligenz-fr","9":"category-science-du-comportement","11":"fallback-thumbnail"},"jetpack_publicize_connections":[],"jetpack_featured_media_url":"https:\/\/i0.wp.com\/technophilosoph.com\/wp-content\/uploads\/2024\/06\/DALL%C2%B7E-2024-06-08-17.27.34-An-illustration-depicting-the-Gell-Mann-Amnesia-Effect.-In-the-foreground-there-is-a-person-reading-a-newspaper-with-a-confused-expression.-Surroundi.png?fit=2000%2C1143&ssl=1","jetpack_likes_enabled":true,"jetpack_sharing_enabled":true,"jetpack_shortlink":"https:\/\/wp.me\/p72hdn-2iV","amp_enabled":true,"_links":{"self":[{"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/posts\/8861","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/users\/8770504"}],"replies":[{"embeddable":true,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/comments?post=8861"}],"version-history":[{"count":2,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/posts\/8861\/revisions"}],"predecessor-version":[{"id":8863,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/posts\/8861\/revisions\/8863"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/media\/8855"}],"wp:attachment":[{"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/media?parent=8861"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/categories?post=8861"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/tags?post=8861"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}