Wie bereitet man ein Sandwich zu, das mit Erdnussbutter und Erdbeermarmelade bestrichen ist? Ganz einfach, man nehme zwei Scheiben Brot, schmiere Erdnussbutter und Marmelade drauf und fertig? Nicht ganz, wenn man diese Anleitung genau befolgt.

Genau das macht Josh Darnit mit Tocher Johnna und Sohn Evan, nachdem er sie gebeten hat ihm eine Anleitung zum Anfertigen eines Erdnußbutter-Jelly-Sandwich zu schreiben. Und er bringt sie damit zur Verzweiflung. Mehrmals müssen sich die Kinder die auf einem Blatt Papier geschriebene Anleitung schnappen, und sie umschreiben, weil sie zu ihrem Schock wieder und wieder ansehen müssen, wie ihr Papa die Anleitung immer wieder in unerwarteter Weise uminterpretiert.

Hier ist das unterhaltsame Video:

Evan macht in einem seiner verzweifelten Momente eine Aussage, die uns einen Hinweis auf die Problematik gibt. „Du machst keinen Sinn! Du weißt doch, wie man ein Sandwich zubereitet!“ wirft er seinem Vater den Tränen nahe zu.

„Du weißt es doch!“ Ja, aber was genau weiß Dad?

Es handelt sich um Kontext und Hausverstand (auf Englisch common sense), die, wie sich zeigt, eine ganze Menge an Vorwissen benötigen. Das beginnt mit der Erdnussbutterdose, die, bevor man mit dem Messer Erdnussbutter herausnehmen kann, geöffnet werden muss. Der Deckel muss abgeschraubt werden. Wo die die beiden Aufstriche aufs Brot aufgetragen werden sollen, lässt einige Varianten offen. Und Dad wählt klarerweise diejenige, die die Kinder nicht gemeint haben.

Besonders lustig ist der Moment, als ihr Vater das Buttermesser mit dem Griff in die Erdnussbutter steckt. Die Gesichter der Kinder zeigen den Schock.

Genau diese Art von Anleitung mit mangelndem Kontext und Hausverstand, die Papa Josh so absichtlich und mit Vergnügen auslegt, ist es, woran die ersten Systeme künstlicher Intelligenz und in abgewandelter Form die heutigen auf Maschinenlernen basierten KI-System leiden. Die ersten Systeme waren deterministische Expertensysteme. Es wurden ihnen Anleitungen gegeben, die ganz genau Vorgaben machten, unter welchen Umständen was zu machen wäre. Wenn X einen Wert A1 hat, dann mache Y, wenn X einen Wert A2 hat, dann mache Z. Wenn aber X einen Wert A3 hat, dann gab es keine Anleitung und das System scheiterte an dieser Stelle. Selbst Auffangroutinen für diese Möglichkeiten, wie „Für alle anderen Werte von X mache M“ lösten das Problem nicht. Was ist wenn das Ergebnis komplexer ist und aus unterschiedlichen Gleichungen gleichzeitig eine Entscheidung getroffen werden muss? Und was, wenn Y, Z oder M nicht angewandt werden können, weil sie zuerst noch andere Informationen brauchen?

Diese Entscheidungsbäume können einen sehr großen und unüberschaubaren Umfang annehmen. Sie sind aber zugleich auch immer fragil. Eine nicht abgebildete Variante, und das System zerfällt. Egal wie viel Arbet hingesteckt wird, die Systemfragilität bleibt und steigt in Systemen, die nicht stabil sind und sich ändern.

Darüber und zu vielen anderen Themen um KI schreibe ich übrigens in meinem Buch zu KI: Wenn Affen von Affen lernen. Und das auch auf humoristische Weise.

Wir sehen sehr rasch, wie eine deterministische Systemprogrammierung bald an ihre Grenzen stößt. Und rasch bedeutete für die KI-Experten, die solche deterministischen Systeme entwickelten, mehrere Jahrzehnte. Von den Anfängen der KI mit Turing in den 1930/40er Jahren und Marvin Minsky und John McCarthy 1959 wurde bis in die 1990er Jahre daran gefeilt. Doch dann übernahmen dank des Internets und schnellerer Prozessoren die statistischen Methoden die Oberhand.. Man ließ die Systeme selbst lernen und wir sind angekommen an eine Zeitpunkt, wo wir dank großer Datenmengen den Systemen sich selbst und mit Unterstützung der KI-Experten beibringen lassen, wie sie die Daten interpretieren und Entscheidungen machen.

Das löst aber nur eine Reihe von Herausforderungen, unter denen deterministische Systeme litten. Der Kontext und Kausalität bleiben ungelöste Herausforderungen, die moderne KI-Systeme verstehen. Ein Schachcomputer mag zwar besser Schach spielen, als Menschen, aber er weiß nicht, dass es ein Spiel ist. Er weiß nicht mal was mit einem Brett gemeint sein kann. Oder was ein König, ein Bauer oder ein Springer auf dem Pferd noch alles bedeuten. Der Schachcomputer feiert auch seine Siege nicht, er weiß nicht was Freude ist, oder was ein besonders schöner Spielzug gewesen war.

Josh macht das seinen Kindern auf humoristische Weise klar. Dass ein Messer einen Griff und eine Klinge haben, ist ohne Vorwissen nicht ersichtlich. Klar, man kann auch mit der Klinge die Erdnussbutter aufstreichen, aber dabei kann man sich eher an der scharfen Klinge verletzen. Der Computer weiß nicht, dass ein Schnitt in unsere Finger schmerzt und im schlimmsten Fall zu unserem Tod führen kann und deshalb unter allen Umständen für uns Menschen zu vermeiden ist. Warum wir nicht das Plastik der Erdnussbutterdose essen, ist für den Computer nicht nur ein Rätsel, er kommt gar nicht auf die Frage.

All das zeigt uns, wie weit wir noch von einer Superintelligenz entfernt sind, und dass selbst junge Menschen wie Johnna und Evan mit ihren biologischen Recheneinheiten – auch bekannt als Gehirne – bereits verstanden haben, wie Informationen aus unterschiedlichen Wissensbereichen kombiniert werden müssen, an welcher Stelle welche Fragen zu stellen und die Antworten in eine praktische Umsetzung anzuwenden sind. Und wie sie manchmal alles nochmals von vorne beginnen müssen, weil ihr Vater sich so dämlich anstellt.