Le guide du sandwich au beurre de cacahuète et à la gelée pour l’IA

Comment faire un sandwich avec du beurre de cacahuètes et de la confiture de fraises ? C’est simple, prenez deux tranches de pain, étalez-y du beurre de cacahuètes et de la confiture et c’est tout ? Pas tout à fait, si vous suivez exactement ces instructions.

C’est exactement ce que Josh Darnit fait avec sa fille Johnna et son fils Evan après leur avoir demandé de lui écrire des instructions sur la façon de faire un sandwich au beurre de cacahuète et à la gelée. Et il les pousse au désespoir avec ça. Plusieurs fois, les enfants doivent saisir les instructions écrites sur un morceau de papier et les réécrire, car, à leur grand étonnement, ils doivent regarder leur père réinterpréter les instructions encore et encore de manière inattendue.

Voici la vidéo divertissante :

Evan, dans un de ses moments de désespoir, fait une déclaration qui nous donne un indice du problème. « Tu n’as aucun sens ! Tu sais faire un sandwich ! » lance-t-il à son père au bord des larmes.

« Tu le sais ! » Oui, mais que sait exactement papa ?

Il s’agit de contexte et de bon sens, ce qui, en fin de compte, nécessite une certaine connaissance préalable. Cela commence par le pot de beurre de cacahuètes, qui, avant de pouvoir en extraire le beurre de cacahuètes avec un couteau, doit être ouvert. Le couvercle doit être dévissé. L’emplacement des deux pâtes à tartiner sur le pain laisse quelques options ouvertes. Et papa choisit clairement celui que les enfants ne voulaient pas dire.

Le moment où leur père enfonce le manche du couteau à beurre dans le beurre de cacahuète est particulièrement drôle. Les visages des enfants montrent le choc.

Ce genre de manque de contexte et de conseils de bon sens que Papa Josh expose si délibérément et allègrement est exactement ce dont souffrent les premiers systèmes d’intelligence artificielle et, sous une forme modifiée, les systèmes d’IA actuels basés sur l’apprentissage automatique. Les premiers systèmes étaient des systèmes experts déterministes. Ils ont reçu des instructions très précises sur ce qu’il fallait faire dans quelles circonstances. Si X a une valeur A1, alors faites Y, si X a une valeur A2, alors faites Z. Mais si X a une valeur A3, alors il n’y avait pas d’instructions et le système a échoué à ce moment-là. Même les routines fourre-tout pour ces possibilités, telles que « Pour toutes les autres valeurs de X, faire M » ne résolvaient pas le problème. Et si le résultat est plus complexe et qu’une décision doit être prise à partir de différentes équations en même temps ? Et que se passe-t-il si Y, Z ou M ne peuvent pas être appliqués parce qu’ils ont d’abord besoin d’autres informations ?

Ces arbres de décision peuvent prendre une ampleur très importante et ingérable. Mais en même temps, ils sont toujours fragiles. Une seule variante non cartographiée et le système se désintègre. Peu importe les efforts déployés, la fragilité des systèmes demeure et augmente dans les systèmes qui ne sont pas stables et qui changent.

À propos, j’ai écrit sur ce sujet et sur bien d’autres concernant l’IA dans mon livre sur l’IA : Quand les singes apprennent des singes. Et aussi de façon humoristique.

Wenn Affen von Affen lernen

Wenn Affen von Affen lernen

Qu’est-ce que l’intelligence au sens artificiel et humain ?

Ce livre peut être acheté auprès de l’éditeur, d’Amazon ou des librairies.

Nous voyons très vite comment la programmation de systèmes déterministes atteint rapidement ses limites. Et rapidement, cela a représenté plusieurs décennies pour les experts en IA qui ont développé ces systèmes déterministes. Depuis les débuts de l’IA avec Turing dans les années 1930/40 et Marvin Minsky et John McCarthy en 1959, ils ont continué à la perfectionner jusque dans les années 1990. Mais ensuite, grâce à l’internet et à des processeurs plus rapides, les méthodes statistiques ont pris le dessus….. On a laissé les systèmes apprendre par eux-mêmes et nous sommes arrivés à un point où, grâce au big data, nous laissons les systèmes apprendre par eux-mêmes, avec l’aide d’experts en IA, comment interpréter les données et prendre des décisions.

Cependant, cela ne résout qu’une série de problèmes dont souffraient les systèmes déterministes. Le contexte et la causalité restent des défis non résolus que les systèmes d’IA modernes comprennent. Un ordinateur peut jouer aux échecs mieux que les humains, mais il ne sait pas qu’il s’agit d’un jeu. Il ne sait même pas ce que peut signifier un conseil. Ou encore ce que signifie un roi, un pion ou un chevalier sur un cheval. L’ordinateur d’échecs ne célèbre pas non plus ses victoires, il ne sait pas ce qu’est la joie, ni ce qu’était un coup particulièrement beau.

Josh le fait comprendre à ses enfants de manière humoristique. Le fait qu’un couteau ait un manche et une lame n’est pas évident sans connaissance préalable. Bien sûr, vous pouvez étaler du beurre de cacahuètes avec la lame, mais vous risquez davantage de vous blesser avec la lame tranchante. L’ordinateur ne sait pas qu’une coupure aux doigts fait mal et, dans le pire des cas, peut entraîner notre mort, et qu’il faut donc l’éviter à tout prix pour nous, les humains. La raison pour laquelle nous ne mangeons pas le plastique de la boîte de beurre de cacahuètes n’est pas seulement un mystère pour l’ordinateur, il ne se pose même pas la question.

Tout cela nous montre à quel point nous sommes encore loin de la superintelligence, et que même des jeunes comme Johnna et Evan, avec leurs unités biologiques de calcul – aussi appelées cerveaux – ont déjà compris comment il faut combiner des informations provenant de différents domaines de connaissance, à quel moment il faut poser des questions et appliquer les réponses dans une mise en œuvre pratique. Et comment ils doivent parfois tout recommencer à zéro parce que leur père se comporte de manière stupide.

Laisser un commentaire