{"id":8587,"date":"2024-04-03T20:24:45","date_gmt":"2024-04-03T19:24:45","guid":{"rendered":"https:\/\/technophilosoph.com\/2024\/04\/03\/lattention-lamour-et-la-diversite-sont-tout-ce-dont-nous-avons-besoin-pour-lia\/"},"modified":"2024-04-04T01:05:03","modified_gmt":"2024-04-04T00:05:03","slug":"lattention-lamour-et-la-diversite-sont-tout-ce-dont-nous-avons-besoin-pour-lia","status":"publish","type":"post","link":"https:\/\/technophilosoph.com\/fr\/2024\/04\/03\/lattention-lamour-et-la-diversite-sont-tout-ce-dont-nous-avons-besoin-pour-lia\/","title":{"rendered":"L&rsquo;attention, l&rsquo;amour et la diversit\u00e9 sont tout ce dont nous avons besoin pour l&rsquo;IA"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">L&rsquo;histoire derri\u00e8re l&rsquo;une des publications d&rsquo;IA les plus influentes de ces derni\u00e8res ann\u00e9es est l&rsquo;un des titres de l&rsquo;\u00e9dition actuelle du <a href=\"https:\/\/www.wired.com\/\" target=\"_blank\" rel=\"noreferrer noopener\">magazine Wired<\/a>. En 2017, huit chercheurs en IA ont publi\u00e9 sur Google un article intitul\u00e9 <a href=\"https:\/\/proceedings.neurips.cc\/paper_files\/paper\/2017\/file\/3f5ee243547dee91fbd053c1c4a845aa-Paper.pdf\" target=\"_blank\" rel=\"noreferrer noopener\">Attention Is All You Need<\/a> (l&rsquo;attention est tout ce dont vous avez besoin), en r\u00e9f\u00e9rence \u00e0 la chanson des Beatles <em>All You Need Is Love<\/em>.<\/p>\n\n<figure class=\"wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio\"><div class=\"wp-block-embed__wrapper\">\n<span class=\"embed-youtube\" style=\"text-align:center; display: block;\"><iframe loading=\"lazy\" class=\"youtube-player\" width=\"720\" height=\"405\" src=\"https:\/\/www.youtube.com\/embed\/t5ze_e4R9QY?version=3&#038;rel=1&#038;showsearch=0&#038;showinfo=1&#038;iv_load_policy=1&#038;fs=1&#038;hl=fr-FR&#038;autohide=2&#038;wmode=transparent\" allowfullscreen=\"true\" style=\"border:0;\" sandbox=\"allow-scripts allow-same-origin allow-popups allow-presentation allow-popups-to-escape-sandbox\"><\/iframe><\/span>\n<\/div><\/figure>\n\n<p class=\"wp-block-paragraph\">Les <em>huit fatidiques<\/em> chercheurs Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, \u0141ukasz Kaiser et Illia Polosukhin ont d\u00e9crit dans leur article comment les soi-disant transformateurs pouvaient traiter plus rapidement des passages de texte plus longs, comprendre plus de contexte et garder une plus grande vue d&rsquo;ensemble en utilisant des calculs parall\u00e8les dans des r\u00e9seaux neuronaux, au lieu d&rsquo;utiliser des calculs s\u00e9quentiels comme c&rsquo;\u00e9tait le cas auparavant avec LSTM. Les r\u00e9ponses et les images g\u00e9n\u00e9r\u00e9es ont surpass\u00e9 la qualit\u00e9 des approches sans transformation pr\u00e9c\u00e9dentes.<\/p>\n\n<p class=\"wp-block-paragraph\">\u00c0 l&rsquo;\u00e9poque, les personnes impliqu\u00e9es, qui ont depuis toutes quitt\u00e9 Google et ont pour la plupart cr\u00e9\u00e9 leur propre entreprise, n&rsquo;avaient qu&rsquo;une id\u00e9e limit\u00e9e de l&rsquo;impact que leur papier aurait et de la r\u00e9volution qu&rsquo;il d\u00e9clencherait en mati\u00e8re d&rsquo;IA. En effet, le <em>T<\/em> dans le <em>GPT<\/em> de ChatGPT signifie <a href=\"https:\/\/chat.openai.com\/\" target=\"_blank\" rel=\"noreferrer noopener\">Transformeur<\/a>.<\/p>\n\n<p class=\"wp-block-paragraph\">Ce qui est int\u00e9ressant dans le cadre de cet article, ce n&rsquo;est pas tant la mani\u00e8re dont les IA g\u00e9n\u00e9ratives sont maintenant sur toutes les l\u00e8vres et comment elles influencent tous les domaines de notre vie, mais plut\u00f4t l&rsquo;environnement qui a permis de bonnes id\u00e9es et l&rsquo;innovation.<\/p>\n\n<figure class=\"wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio\"><div class=\"wp-block-embed__wrapper\">\n<span class=\"embed-youtube\" style=\"text-align:center; display: block;\"><iframe loading=\"lazy\" class=\"youtube-player\" width=\"720\" height=\"405\" src=\"https:\/\/www.youtube.com\/embed\/NugRZGDbPFU?version=3&#038;rel=1&#038;showsearch=0&#038;showinfo=1&#038;iv_load_policy=1&#038;fs=1&#038;hl=fr-FR&#038;autohide=2&#038;wmode=transparent\" allowfullscreen=\"true\" style=\"border:0;\" sandbox=\"allow-scripts allow-same-origin allow-popups allow-presentation allow-popups-to-escape-sandbox\"><\/iframe><\/span>\n<\/div><\/figure>\n\n<p class=\"wp-block-paragraph\">Les auteurs n&rsquo;\u00e9taient pas seulement tous employ\u00e9s par Google, ils travaillaient \u00e9galement dans les m\u00eames bureaux. Les rencontres dans les couloirs et les conversations surprises pendant le d\u00e9jeuner ont donn\u00e9 lieu \u00e0 de grands moments. C&rsquo;est ce que nous appelons aussi <em>Return on Collision<\/em> (ROC), c&rsquo;est-\u00e0-dire le <em>rendement des collisions<\/em>, o\u00f9 les postes de travail permettent aux collaborateurs de se rencontrer par hasard et fr\u00e9quemment. Que ce soit au d\u00e9jeuner, dans les coins caf\u00e9, dans les couloirs ou &#8211; oui &#8211; dans les toilettes. Les <a href=\"https:\/\/www.sap.com\/about\/company\/history\/2001-2010.html\" target=\"_blank\" rel=\"noreferrer noopener\">b\u00e2timents dispos\u00e9s en \u00e9toile chez SAP<\/a>, avec toutes les machines \u00e0 caf\u00e9 et les toilettes au centre, ou le b\u00e2timent de Pixar \u00e0 Emeryville facilitent ce ROC.<\/p>\n\n<p class=\"wp-block-paragraph\">Les huit chercheurs de Google sont \u00e9galement culturellement diversifi\u00e9s. Six des huit auteurs sont n\u00e9s en dehors des \u00c9tats-Unis ; deux autres sont les enfants de deux Allemands titulaires d&rsquo;une carte verte qui ont s\u00e9journ\u00e9 temporairement en Californie et d&rsquo;un Am\u00e9ricain de la premi\u00e8re g\u00e9n\u00e9ration dont la famille a fui les pers\u00e9cutions dans son pays d&rsquo;origine.<\/p>\n\n<p class=\"wp-block-paragraph\">Gr\u00e2ce \u00e0 ces diff\u00e9rents contextes culturels et exp\u00e9riences de vie, ce groupe a apport\u00e9 un large \u00e9ventail de connaissances et d&rsquo;approches auxquelles il a pu faire appel pour r\u00e9soudre ce probl\u00e8me \u00e9pineux et trouver ainsi une solution innovante et influente. Bien s\u00fbr, des am\u00e9liorations auraient encore \u00e9t\u00e9 possibles. Ainsi, parmi les huit chercheurs, il n&rsquo;y avait qu&rsquo;une seule femme. Mais il n&rsquo;est pas toujours n\u00e9cessaire de cocher chaque dimension de la diversit\u00e9 pour g\u00e9n\u00e9rer davantage d&rsquo;id\u00e9es.<\/p>\n\n<p class=\"wp-block-paragraph\">Pour nous et pour les \u00ab\u00a0huit fatidiques\u00a0\u00bb, cela a port\u00e9 ses fruits. Nous avons mis la main sur une technologie capable de changer positivement tous les aspects de la vie, et les chercheurs ont tous cr\u00e9\u00e9 leur propre entreprise, \u00e0 l&rsquo;exception d&rsquo;un seul qui travaille aujourd&rsquo;hui chez OpenAI, l&rsquo;entreprise phare des transformateurs de l&rsquo;IA. Il nous appartient maintenant de promouvoir une telle culture de l&rsquo;innovation au sein de nos organisations.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>L&rsquo;histoire derri\u00e8re l&rsquo;une des publications d&rsquo;IA les plus influentes de ces derni\u00e8res ann\u00e9es est l&rsquo;un des titres de l&rsquo;\u00e9dition actuelle du magazine Wired. En 2017, huit chercheurs en IA ont publi\u00e9 sur Google un article intitul\u00e9 Attention Is All You &hellip; <a href=\"https:\/\/technophilosoph.com\/fr\/2024\/04\/03\/lattention-lamour-et-la-diversite-sont-tout-ce-dont-nous-avons-besoin-pour-lia\/\" class=\"more-link\">Continuer de lire <span class=\"screen-reader-text\">L&rsquo;attention, l&rsquo;amour et la diversit\u00e9 sont tout ce dont nous avons besoin pour l&rsquo;IA<\/span><\/a><\/p>\n","protected":false},"author":8770504,"featured_media":8556,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_coblocks_attr":"","_coblocks_dimensions":"","_coblocks_responsive_height":"","_coblocks_accordion_ie_support":"","_crdt_document":"","advanced_seo_description":"","jetpack_seo_html_title":"","jetpack_seo_noindex":false,"jetpack_post_was_ever_published":false,"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"_wpas_customize_per_network":false},"categories":[694240653,694240481,694240474],"tags":[],"class_list":{"0":"post-8587","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","6":"hentry","7":"category-diversite","8":"category-innovation-fr","9":"category-intelligence-artificielle","11":"fallback-thumbnail"},"jetpack_publicize_connections":[],"jetpack_featured_media_url":"https:\/\/i0.wp.com\/technophilosoph.com\/wp-content\/uploads\/2024\/04\/The-Fateful-Eight.jpeg?fit=2000%2C1276&ssl=1","jetpack_likes_enabled":true,"jetpack_sharing_enabled":true,"jetpack_shortlink":"https:\/\/wp.me\/p72hdn-2ev","amp_enabled":true,"_links":{"self":[{"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/posts\/8587","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/users\/8770504"}],"replies":[{"embeddable":true,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/comments?post=8587"}],"version-history":[{"count":1,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/posts\/8587\/revisions"}],"predecessor-version":[{"id":8588,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/posts\/8587\/revisions\/8588"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/media\/8556"}],"wp:attachment":[{"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/media?parent=8587"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/categories?post=8587"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/tags?post=8587"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}