Wie aus dem Nichts tauchte ChatGPT letztes Jahr in das Bewusstsein einer breiteren Öffentlichkeit, die zwischen Angst und Faszination schwankt. Nicht zu übersehen ist, dass diese generative Text-KI bereits einen festen Platz im Leben vieler Menschen eingenommen hat. Sei es bei Schülern, die ChatGPT für Hausaufgaben heranziehen, in Autos, wo Mercedes und Volkswagen sie nun als erweiterten Sprachassistenten einsetzen, in der Politik mit einigen unrühmlichen Beispielen, oder gar in Unternehmen, die ihre Prozessabläufe beschleunigen.

Nicht nur die Adoptionsraten sind somit außergewöhnlich hoch, auch die Rate, mit der sich KI selbst weiter entwickelt, erstaunt. Die KIs halluzinieren weniger, werden vorsichtiger mit ihren Antworten, legen selbst schwerste Prüfungen mit Bravour ab, und schaffen immer realistischere und nicht mehr von der Realität unterscheidbare Bilder und Videos. Und das innerhalb von wenigen Monaten. Manche, die gerade noch steif und fest behauptet hatte, das eine „KI das nie wird können“, sehen sich ein paar Wochen oder Monate eines besseren belehrt.

Doch was sind die Gründe, warum sich KI so rasch entwickelt? Zuerst mal muss angemerkt werden, dass die Entwicklung der KI selbst schon einige Jahrzehnte am Buckel hat. Gingen die ersten Gründer des Faches der künstlichen Intelligenz in den 1950er Jahren noch davon aus, dass ein paar Studenten unter Anleitung von Professoren in wenigen Wochen über den Sommer das menschliche Gehirn nachbilden würden können, so folgte rasch Ernüchterung. Mehrere KI-Winter, viele Rückschläge und verschwendete Milliarden später gab es ab Anfang der 2010er Jahre mit dem ImageNet-Wettbewerb, AlphaGo, selbstfahrenden Autos und dann ChatGPT eine raschere Schlagabfolge von Durchbrüchen, die die Aufmerksamkeit und Fantasie der Öffentlichkeit geweckt haben.

Mit anderen Worten: KI kam doch nicht von heute auf morgen, sondern durchlebte einige Rückschläge auf dem jahrzehntelangen Weg an den Stand wo sie heute angekommen ist. Bill Buxton, seines Zeichens leitender Wissenschaftler bei Microsoft, bezeichnete das als die Lange Nase der Innovation (ich schrieb darüber u.a. in meinem Buch Foresight Mindset). Jede technologische Innovation kündigt sich bereits lange vor ihrem Durchbruch an, sie fliegt unter dem Radar und ist nur den Experten sichtbar. Jede Innovation existiert bereits mindestens 15 Jahre, bevor sie einer breiteren Masse sichtbar wird, sozusagen dann über dem Radar fliegt, und braucht dann weitere fünf Jahre, bis sie ihre Wirkungen entfalten wird.

Wir befinden uns somit gerade über dem Radar in der Anfangsphase, in der die Technologie beginnt, ihre Wirkung zu entfalten. Diese Sichtbarkeit bringt mit sich, dass mehr Ressourcen herangeschafft werden. Nicht nur mehr Menschen wollen Teil davon sein und die Chancen nutzen, die diese neue Technologie bietet, auch steigende Summen an Geldern werden investiert.

Es hilft dabei auch, dass viele der schon seit Jahrzehnten bekannten Algorithmen und Methoden, nicht zuletzt neuronale Netze oder Tiefes Lernen (Deep Learning), erst mit dem zwischenzeitlich erfolgten Fortschritt bei Rechengeschwindigkeit und verfügbaren Datenmenge ihre Macht beweisen konnten. Der Gewinn des ImageNet-Wettbewerbs 2012 durch AlexNet, zeigte den Experten, dass diese Kombination der vielversprechendste Weg zu nutzbaren KIs war. Die ganze Szene begann sich umzuorientieren.

Kritiker werden als weitere Gründe anführen, dass fehlende Regulierungen und das Außerachtlassen von Urheberrechten oder Bias in den Daten ebenso zu einer – aus ihrer Sicht rücksichtslosen – raschen Entwicklung beigetragen haben, die Kollateralschäden hinterlässt.

Doch ein weiterer Faktor mag zur hohen Entwicklungsgeschwindigkeit des KI-Fortschrittes beitragen, und auf den weist Yann LeCun hin. Der Chefwissenschaftler der KI-Abteilung bei der Facebook-Mutter Meta erwähnt eine Besonderheit seines Faches, die bei der Art der Publikation von Fortschritten zur Anwendung kommt. Wissenschaftliche Papers und der Quellcode zu AI werden fast ausschließlich auf arXiv oder OpenReview veröffentlicht, die ursprünglich als öffentliche Archive für die Vorveröffentlichung von Studien dienen sollten, bevor sie nach einem in den Wissenschaften üblichen Peer-Review-Verfahren offiziell abgedruckt werden.

Ein Grund dafür, dass die KI-Forschung so schnell vorankommt, ist nicht nur die häufige und frühzeitige Veröffentlichung von Preprints auf ArXiv und der Austausch von Open-Source-Code, sondern auch, dass sich die Maschinenlern-/KI-Gemeinschaft weitgehend aus dem Würgegriff der gewinnorientierten und kostenpflichtigen wissenschaftlichen Veröffentlichungen befreit hat.

Yann LeCun

One reason AI research has been progressing so fast is not just because of frequent and early publication of preprint on ArXiv and the exchange of open source code, but also because the ML/AI community has largely freed itself from the stranglehold of for-profit & paywalled… https://t.co/zs7jSxuWIW

— Yann LeCun (@ylecun) January 7, 2024

Peer-Reviews benötigen in manchen Wissenschaftsbereichen Monate und sogar Jahre, bis ein Paper von der Einreichung endlich abgedruckt und veröffentlicht wird. Und dann zumeist in Zeitschriften, die für teures Geld von den Forschungsinstituten oder Praktikern abonniert werden müssen. Dieser Prozess lähmt mittlerweile ganze Wissenschaftsbereiche und die praktische Umsetzung, die daran zu erkennen ist, dass viele Fächer immer langsamer bei neuen Erkenntnissen voranschreiten.

In der Computerwissenschaft und KI ist das aus mehreren Gründen nicht möglich und praktikabel. Schon die exponentielle Entwicklung von Rechenkraft, wie sie der Intel-Mitgründer Gordon Moore in seinem Mooreschen Gesetz erkannt hat, erlauben in kurzen Zeiträumen das Testen rechenintensiver Methoden. Und mit dem Internet wurden Daten in rauen Massen erzeugt und zugänglich. Bei Algorithmen, die massive Datenmengen benötigen, ist das von entscheidender Bedeutung.

In der KI sahen wir in den letzten Monaten oft Verbesserungen innerhalb weniger Tage nach der Veröffentlichung von Papern auf arXiv. Wer als KI-Forscher relevant werden und bleiben will, kann gar nicht anders, als auf arXiv vorzuveröffentlichen. Interessanterweise passiert der Peer-Review-Prozess dort dann öffentlich und vor allem durch die Anwendung der Algorithmen und Methoden durch andere Gruppen. Waren die Erkenntnisse valide, finden sie sofort und unmittelbar Einzug in die Praxis.

Diese Geschwindigkeit bei der Entwicklung von KI und der wahrgenommenen Bedeutung von KI für Unternehmen, egal ob sie KI entwickeln oder anwenden, führt dort auch zum Aufbrechen starrer eigener Prozesse. So konnte Apple gar nicht anders, als den hauseigenen KI-Forschern und -Entwicklern zu erlauben, rasch eigene Studien und Paper zu veröffentlichen. Ein für das sonst so geheimnistuerische vorgehende Unternehmen ein Kulturwandel.

Doch die nächste Beschleunigung abseits von arXiv steht uns bevor, und die hat mit einer Besonderheit dieses Wissenschaftsfeldes zu tun. Das Produkt aus diesem Bereich hat nämlich die Eigenschaft, selbst zur eigenen Verbesserung beizutragen. KI kann neue Muster erkennen und viel rascher unterschiedlichste Pfade erkunden, als es Menschen können. Damit kann sich KI selbst verbessern.

So fand eine Google-KI bereits neue Sortieralgorithmen, die bis zu dreimal rascher Sortierungen durchführen, als die von Menschen erzeugten. Wir bewegen uns somit von einer exponentiellen auf eine superexponentielle Entwicklung hin. Als Menschen haben wir mit exponentiellen Entwicklungen bereits Verständnisprobleme, aber superexponentiell ist noch mal eine Dimension schwieriger zu begreifen.

Die Entwicklung der KI wird sich somit auf absichtbare Zeit nicht verlangsamen, ganz im Gegenteil: sie wird sich sogar noch beschleunigen. Verschnaufpause wird es für uns somit nicht geben.

Viel mehr zu den neuesten Entwicklungen von (generativer) KI und wohin sie führen wird habe ich in meinem vor einem Monat erschienenen Buch Kreative Intelligenz geschrieben. Ich sage natürlich: Kaufen!