{"id":8068,"date":"2023-12-30T21:02:38","date_gmt":"2023-12-30T20:02:38","guid":{"rendered":"https:\/\/technophilosoph.com\/2023\/12\/30\/botshit-au-lieu-de-bullshit\/"},"modified":"2024-01-01T20:39:13","modified_gmt":"2024-01-01T19:39:13","slug":"botshit-au-lieu-de-bullshit","status":"publish","type":"post","link":"https:\/\/technophilosoph.com\/fr\/2023\/12\/30\/botshit-au-lieu-de-bullshit\/","title":{"rendered":"Botshit au lieu de bullshit ?"},"content":{"rendered":"\n

Nous avons entendu parler plus que de raison de la d\u00e9sinformation (l’information volontairement fausse) et de la m\u00e9sinformation (l’information involontairement fausse). Nous avons \u00e9galement re\u00e7u ces derni\u00e8res ann\u00e9es plus qu’une dose suffisante de conneries, prof\u00e9r\u00e9es d\u00e9lib\u00e9r\u00e9ment par quelqu’un qui ne se soucie gu\u00e8re de ce que les autres pensent de lui.<\/p>\n\n\n\n

Apr\u00e8s le bullshit, voici, gr\u00e2ce \u00e0 l’IA, ce que nous avons d\u00e9crit jusqu’\u00e0 pr\u00e9sent par euph\u00e9misme comme une hallucination et que nous appelons d\u00e9sormais \u00ab\u00a0botshit\u00a0\u00bb. Et celle-ci se distingue de la connerie \u00e0 plusieurs \u00e9gards. Car, premi\u00e8rement, c’est l’IA qui le produit, qui ne peut plus se moquer de ce que les gens en pensent et de l’IA elle-m\u00eame, et deuxi\u00e8mement, l’IA le pr\u00e9sente aussi avec une conviction sans \u00e9gale.<\/p>\n\n\n\n

La d\u00e9finition la plus scientifique du botshit est donn\u00e9e dans l\u2019\u00e9tude<\/em> Beware of Botshit: How to manage the epistemic risks of generative Chatbots<\/a> <\/p>\n\n\n\n

\n

Les chatbots peuvent produire du contenu coh\u00e9rent mais inexact ou invent\u00e9 appel\u00e9 \u00ab hallucinations \u00bb. Lorsque les gens utilisent ce faux contenu pour des t\u00e2ches, cela devient ce que nous appelons de la \u00ab merde \u00bb.<\/p>\n<\/blockquote>\n\n\n\n

Les auteurs de l’\u00e9tude du Canada, d’Italie et de Grande-Bretagne comparent la d\u00e9finition, les types et les enseignements qu’ils en ont tir\u00e9s entre les conneries et les botshit :<\/p>\n\n\n\n

<\/td>Bullshit<\/strong><\/td>Botshit<\/strong><\/td><\/tr>
D\u00e9finition<\/strong><\/td>Contenu g\u00e9n\u00e9r\u00e9 par l’homme qui ne tient aucun compte de la v\u00e9rit\u00e9 qu’un humain applique ensuite pour des t\u00e2ches de communication et de prise de d\u00e9cision<\/td>Le chatbot a g\u00e9n\u00e9r\u00e9 du contenu qui n’est pas fond\u00e9 sur la v\u00e9rit\u00e9 (c’est-\u00e0-dire des hallucinations) et est ensuite utilis\u00e9 sans esprit critique par un humain pour des t\u00e2ches de communication et de prise de d\u00e9cision.<\/td><\/tr>
Types<\/strong><\/td>Bullshit pseudo-raisonn\u00e9es :<\/em> des d\u00e9clarations qui semblent profondes et significatives
Bullshit persuasives :<\/em> d\u00e9clarations destin\u00e9es \u00e0 impressionner ou \u00e0 persuader
Bullshit \u00e9vasives :<\/em> d\u00e9clarations qui \u00e9vitent strat\u00e9giquement la v\u00e9rit\u00e9
Bullshit sociales :<\/em> d\u00e9clarations qui taquinent, exag\u00e8rent, plaisantent ou trollent<\/td>		Botshit intrins\u00e8que :<\/em> l’application humaine d’une r\u00e9ponse de chatbot qui contredit les donn\u00e9es d’entra\u00eenement du chatbot
Botshit extrins\u00e8que :<\/em> l’application humaine d’une r\u00e9ponse de chatbot qui ne peut pas \u00eatre v\u00e9rifi\u00e9e comme \u00e9tant vraie ou fausse par les donn\u00e9es d’entra\u00eenement du chatbot.<\/td><\/tr>
R\u00e9sultats<\/strong><\/td>Les humains sont plus susceptibles de g\u00e9n\u00e9rer et d\u2019utiliser de bullshit\u00a0:
– Plus ils sont inintelligents, malhonn\u00eates et peu sinc\u00e8res
– On attend beaucoup d’eux qu’ils aient une opinion, et ils s’attendent \u00e0 ce qu’ils s’en sortent sans probl\u00e8me.
– Si leurs patrons racontent fr\u00e9quemment des conneries.

Les humains sont plus susceptibles de croire et de r\u00e9pandre de bullshit\u00a0:
– S’ils ont une faible capacit\u00e9 de r\u00e9flexion analytique
– Probl\u00e8mes avec les choix de formation et de mod\u00e9lisation du transformateur LLM
– S’ils pensent que c’est fait par un scientifique
– S’il est attrayant, align\u00e9 sur les croyances existantes et semble cr\u00e9dible<\/td>		Les chatbots sont plus susceptibles de g\u00e9n\u00e9rer des hallucinations que les humains pourront utiliser et transformer en botshit lorsqu’il y a\u00a0:
– Les probl\u00e8mes de collecte de donn\u00e9es, de pr\u00e9traitement et de tokenisation limitent l’alignement des connaissances factuelles entre les donn\u00e9es de formation et la r\u00e9ponse souhait\u00e9e
Des invites ambigu\u00ebs dirigent mal le chatbot
Probl\u00e8mes avec les choix de formation et de mod\u00e9lisation du transformateur LLM
Probl\u00e8mes li\u00e9s aux efforts de r\u00e9glage fin bas\u00e9s sur l’incertitude autour de la v\u00e9rit\u00e9 terrain<\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n

Les circonstances dans lesquelles un examen des r\u00e9sultats pr\u00e9sent\u00e9s par les chatbots est un \u00e9chec sont pr\u00e9sent\u00e9es dans une matrice :<\/p>\n\n\n\n

Important<\/strong><\/td>Travail de chatbot authentifi\u00e9<\/strong>
Les utilisateurs posent des t\u00e2ches aux chatbots avec scepticisme, puis v\u00e9rifient soigneusement les r\u00e9ponses pour en v\u00e9rifier l’exactitude factuelle, la coh\u00e9rence logique et la v\u00e9racit\u00e9.

Exemples:<\/strong>
t\u00e2ches juridiques, s\u00e9curitaires et budg\u00e9taires.<\/td>		Travail de chatbot automatis\u00e9<\/strong>
Les utilisateurs attribuent syst\u00e9matiquement des t\u00e2ches de routine et standard aux chatbots, puis utilisent les r\u00e9ponses pour une ex\u00e9cution efficace et d\u00e9tach\u00e9e.

Exemples:<\/strong>
T\u00e2ches d’\u00e9valuation et de s\u00e9lection des candidatures.<\/td><\/tr>
Sans importance<\/strong><\/td>Travail de chatbot avanc\u00e9<\/strong>
Les utilisateurs demandent ouvertement aux chatbots de g\u00e9n\u00e9rer des id\u00e9es et des concepts, puis d’\u00e9valuer, d’organiser, de combiner et de s\u00e9lectionner parmi les r\u00e9ponses g\u00e9n\u00e9r\u00e9es.

Exemples:<\/strong>
T\u00e2ches de brainstorming et de g\u00e9n\u00e9ration d\u2019id\u00e9es.<\/td>		Travail de chatbot autonome<\/strong>
Les utilisateurs d\u00e9l\u00e8guent de mani\u00e8re s\u00e9lective des t\u00e2ches \u00e0 des chatbots disposant de la formation et de l’expertise appropri\u00e9es, puis laissent les chatbots apprendre et s’adapter.

Exemples:<\/strong>
T\u00e2ches de support et d’assistance.<\/td><\/tr>
<\/td>Difficile \u00e0 v\u00e9rifier<\/strong><\/td>Facilement v\u00e9rifiable<\/strong><\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n

Cette d\u00e9finition, cette r\u00e9partition et cette cat\u00e9gorisation visent \u00e0 aider les utilisateurs et les d\u00e9veloppeurs d’IA de texte g\u00e9n\u00e9ratif \u00e0 mieux classer les d\u00e9clarations des chatbots et \u00e0 comprendre o\u00f9 il devient critique de v\u00e9rifier \u00e0 nouveau et d’int\u00e9grer des m\u00e9canismes de v\u00e9rification appropri\u00e9s dans les assistants d’IA autonomes. Les auteurs ont pr\u00e9par\u00e9 une pr\u00e9sentation plus claire, consultable ici :<\/p>\n\n\n\n

\"\"<\/a><\/figure>\n\n\n\n

Wer noch tiefer in generative KI eintauchen will,
dem\/der sei mein neuestes Buch ans Herz gelegt:
Kreative Intelligenz: Wie ChatGPT und Co die Welt ver\u00e4ndern werden<\/a>.<\/em>
Erh\u00e4ltlich im Buchhandel, beim Verlag<\/a> und auf Amazon<\/a>.<\/p>\n\n\n\n

\n
\n
\"\"<\/a><\/figure>\n<\/div>\n\n\n\n
\n

KREATIVE INTELLIGENZ<\/strong><\/p>\n\n\n\n

\u00dcber ChatGPT hat man viel gelesen in der letzten Zeit: die k\u00fcnstliche Intelligenz, die ganze B\u00fccher schreiben kann und der bereits jetzt unterstellt wird, Legionen von Autoren, Textern und \u00dcbersetzern arbeitslos zu machen. Und ChatGPT ist nicht allein, die KI-Familie w\u00e4chst best\u00e4ndig. So malt DALL-E Bilder, Face Generator simuliert Gesichter und MusicLM komponiert Musik. Was erleben wir da? Das Ende der Zivilisation oder den Beginn von etwas v\u00f6llig Neuem? Zukunftsforscher Dr. Mario Herger ordnet die neuesten Entwicklungen aus dem Silicon Valley ein und zeigt auf, welche teils bahnbrechenden Ver\u00e4nderungen unmittelbar vor der T\u00fcr stehen.<\/p>\n\n\n\n

Erh\u00e4ltlich im Buchhandel, beim Verlag<\/a> und auf Amazon<\/a>.<\/p>\n<\/div>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

Nous avons entendu parler plus que de raison de la d\u00e9sinformation (l’information volontairement fausse) et de la m\u00e9sinformation (l’information involontairement fausse). Nous avons \u00e9galement re\u00e7u ces derni\u00e8res ann\u00e9es plus qu’une dose suffisante de conneries, prof\u00e9r\u00e9es d\u00e9lib\u00e9r\u00e9ment par quelqu’un qui ne … Continuer de lire Botshit au lieu de bullshit ?<\/span><\/a><\/p>\n","protected":false},"author":8770504,"featured_media":7997,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_coblocks_attr":"","_coblocks_dimensions":"","_coblocks_responsive_height":"","_coblocks_accordion_ie_support":"","_crdt_document":"","advanced_seo_description":"","jetpack_seo_html_title":"","jetpack_seo_noindex":false,"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"_wpas_customize_per_network":false,"jetpack_post_was_ever_published":false},"categories":[694240474],"tags":[],"class_list":{"0":"post-8068","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","6":"hentry","7":"category-intelligence-artificielle","9":"fallback-thumbnail"},"jetpack_publicize_connections":[],"jetpack_featured_media_url":"https:\/\/i0.wp.com\/technophilosoph.com\/wp-content\/uploads\/2023\/12\/DALL%C2%B7E-2023-12-30-10.35.06-A-humorous-and-quirky-illustration-of-a-robot-in-a-comical-situation.-The-robot-with-a-futuristic-sleek-design-is-depicted-in-a-playful-pose-as-if-.png?fit=2000%2C1143&ssl=1","jetpack_likes_enabled":true,"jetpack_sharing_enabled":true,"jetpack_shortlink":"https:\/\/wp.me\/p72hdn-268","amp_enabled":true,"_links":{"self":[{"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/posts\/8068","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/users\/8770504"}],"replies":[{"embeddable":true,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/comments?post=8068"}],"version-history":[{"count":3,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/posts\/8068\/revisions"}],"predecessor-version":[{"id":8091,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/posts\/8068\/revisions\/8091"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/media\/7997"}],"wp:attachment":[{"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/media?parent=8068"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/categories?post=8068"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/technophilosoph.com\/fr\/wp-json\/wp\/v2\/tags?post=8068"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}