Das Kommen eines KI Pearl Harbor ist unausweichlich

Zuerst war es eine Ölpipeline, dann ein großer Schlachtbetrieb, die durch Cyberattacken lahmgelegt worden sind. Keine Woche vergeht, dass nicht hier ein Krankenhaus, dort eine Spedition oder eben jüngst Colonial Pipeline, durch deren Erdölleitungen 45 Prozent der Treibstoffversorgung der amerikanischen Ostküste fließen, und dem Fleischproduzenten JBS durch Ransomwareattacken für einige Tage den Betrieb einstellen mussten. Die Vorgehensweise ist immer dieselbe: Die Hacker gelangen durch Sicherheitslücken in die Server der Unternehmen, übernehmen die Kontrolle der Server und verschlüsseln die Daten. Dann fordern sie Lösegeld, ohne das sie Verschlüsselung nicht rückgängig machen.

Schon 2012 warnte Leon E. Panetta, der damalige amerikanische Verteidigungsminister, vor dem sogenannten Cyber Pearl Harbor. Er bezog sich dabei auf die bis dahin schwerwiegendste Attacke auf amerikanischen Boden, die ein japanischer Flugzeugträgerverband 1941 auf die im Hawaiianischen Hafen Pearl Harbor stationierte US Marine ohne Vorwarnung durchgeführt hatte. Der Überraschungsangriff kostete über 2.400 Menschen das Leben und führte am Tag danach zur Kriegserklärung der USA an Japan.

Doch nun sah Panettta digitale Überraschungsangriffe auf kritische Infrastruktur vorher, wo die Frage nicht sei, ob sie käme, sondern wann. Kritiker warfen ihm damals eine übertriebene Angstmache vor, doch die letzten Jahre zeigten, dass die Cyberattacken nicht an Intensität zu nehmen. Die New York Times weist darauf hin, dass mittlerweile bereits alle acht Minuten eine solche Ransomwareattacke in den USA stattfindet. Und diese werden immer frecher. Ukrainische Kraftwerke wurden bereits mehrmals durch russische Hackergruppen übernommen und abgeschaltet, und die Attacke auf die amerikanisch Erdölpipeline mit dem folgenden Chaos, als sich lange Schlangen vor den Tankstellen bildeten, geben einen Einblick auf mögliche Schäden, wenn wesentlich sensiblere Infrastruktur attackiert wird. Angriffe auf Ampelschaltungen, Flugkontrolle oder Atomkraftwerke können direkt zu ernsten physischen Bedrohungen werden.

Noch ist es dazu nicht gekommen, und die Ereignisse der letzten Wochen haben die US-Regierung veranlasst, die Aufmerksamkeit gezielt auf solche Form der Kriminalität und einer potenziell versteckten Kriegsführung zu richten. Panetta fragt neun Jahre nach seiner Rede, was es benötigen würde, damit solche Cyberattacken wirklich ernst genommen würden. Muss sie wiie Pearl Harbor oder die Anschläge vom 11. September 2001 erst tausenden Menschen das Leben kosten, damit Regierungen und Unternehmen reagieren? Langsam setzt sich doch die Meinung durch, dass Cyberattacken wie Terrorismus oder eine Kriegserklärung zu betrachten sind.

Doch all das scheint in ihren Auswirkungen unvergleichbar mit dem Schaden durch eine andere Technologie, die ihre erste Blüte erlebt: künstliche Intelligenz.

KI Pearl Harbor

Die Qualität einer Bedrohung durch KI kann weit über reine Cyberattacken hinausgehen. Cyberattacken heute werden von Menschen durchgeführt, die automatisierte Skripts ausführen, um beispielsweise Sicherheitslücken aufzuspüren oder indem durch sogenanntes Social Engineering Mitarbeitern eines Unternehmens Zugangsdaten entlockt werden.

KI unterscheidet sich davon, weil es als eigener Agent auftreten kann und sie nicht notwendigerweise mehr im Auftrag von Menschen agiert. Im Film The Fate of the Furious aus dem Jahr 2017 übernimmt die von Charlize Theron gespielte Bösewichtin die Kontrolle über Autos, die autonom fahren können und hetzt sie auf die Helden der Geschichte.

Dabei muss die KI gar nicht erst Kontrolle über selbstfahrende Autos oder, wie der Oxford-Philosoph Nick Bostrom in seinem Buch Superintelligenz beschrieb, über eine Büroklammerfabrik erhalten. Es genügen schon verhältnismäßig primitive Algorithmen, die auf Facebook durch gezielte Auswahl an Nachrichten Menschen immer mehr radikalisieren und Länder polarisieren, Aktien handeln die dann zu einem Flashcrash und Börsenpanik führen, oder wie Stuxnet Zentrifugen zur Uranreicherung in einem als feindlich eingestuften Land systematisch lahmlegen. Das nächste Problem war hier schon vorprogrammiert. Sind Softwareprogramm wie diese erst mal losgelassen oder werden sie bei einem Hack – wie es der NSA passiert ist – gestohlen, dann haben alle mögliche Akteure damit schlagartig ein Arsenal von Schadsoftware in ihren Händen. Was die Urananreicherung in einem Land lahmlegen kann, kann dasselbe mit Beatmungsgeräten in heimischen Krankenhäusern machen.

Dank Maschinenlernen kann eine künstlicher Intelligenz sich kontinuierlich verbessern. Stehen heute noch durch Menschen unterstütztes Maschinenlernen (supervised learning) basierend auf von Menschen kuratierte Daten im Vordergrund, so existieren heute schon neuronale Netzwerke, die keine Überwachung (unsupervised learning) mehr benötigen und sich Daten selbst besorgen können, indem sich sie in physischer und digitaler Form durch unsere Welt bewegen. Autonome Autos schaffen sich ständig neue Daten, indem sie durch unsere Welt fahren.

Sind die Denkmodelle und die Ziele einer heutigen KI noch von Menschen vorgegeben, so werden bereits Anstrengungen vorgenommen um Modelle zu entwickeln, die es einer KI erlauben über die Mustererkennung hinweg Kausalitäten und Kontext zu erkennen, um darauf basierend eigene Denkrahmen zu erstellen und sich eigene Ziele zu setzen.

Und dann ist es nur eine Frage der Zeit, bis solch eine KI beabsichtigt oder unbeabsichtigt einem Labor entkommt und sich selbständig macht, wie ein Virus, dem nicht mehr Einhalt zu gebieten ist. Eine solche KI, die sich selbst trainiert und nicht nur auf neue Situationen im selben Denkmodell anpasst, sondern Alternativen entwickeln und mit unglaublicher Geschwindigkeit auf Veränderungen reagieren kann, würde uns ständig entfleuchen.

Was harmlos beginnen könnte, indem eine KI die Aufgabe erhält, Sprache zu lernen, indem sie öffentlich verfügbare Dokumente sammelt und scannt, könnte sie veranlassen, in geschützte Datenbanken einzudringen, um ihre Aufgabe zu erfüllen. Jeder Versuch sie daran zu hindern könnte sie dazu veranlassen, die Behinderer auszuschalten. Sollte sie erkennen, dass ihr Sprachvarianten fehlen, dann könnte sie diese zu generieren versuchen, indem sie soziale Medien mit für Menschen gedachten Textbausteinen benutzt, um die Benutzer zu entsprechenden Antworten zu verleiten, die von ihr identifizierten Lücken zu schließen. Die Benutzer selbst würden sich dem gar nicht bewusst sein.

Wie bereiten wir uns darauf vor?

Wie schon beim Cyber Pearl Harbor stellt sich beim KI Pearl Harbor nicht die Frage, ob es passieren kann, sondern wann. Und wie können wir uns darauf vorbereiten und Schaden abhalten oder minimieren?

Das beginnt mit der verstärkten Aufmerksamkeit, dass es diese Bedrohungsszenarien bereits gibt und sie eintreten werden. Auch, dass sie im Verborgenen vorbereitet und geschehen werden. Es sind nicht Panzer und Truppen die bewegt werden, oder Bankräuber die durch die Eingangstür reinkommen, sondern sie fließen in den Datenströmen mit und nisten sich auf Servern ein, wo sie unbemerkt ihre schädliche Arbeit vornehmen.

Während die Cyberattacken, die Fleischfabriken oder Ölpipelines lahmlegen, noch wie Bankräuber die schießend und brüllen in das Bankfoyer eindringen und dabei wie plumpe, Aufmerksamkeit heischende Anfänger aussehen, geschehen intelligente Attacken leise. Sie übernehmen still und heimlich die Kontrolle über Server, überweisen kleine Beträge, die nicht auffallen unbemerkt auf Empfängerkonten. Stuxnet fiel nicht auf, indem es von Anfang an alle Zentrifugen lahmlegte. Das Virus verhielt sich unauffällig und ließ die langsamen Ausfälle aller Zentrifugen nach Bedien- oder Wartungsfehlern aussehen. Bis die Betreiber den Verdacht schöpften, dass es sich um einen feindlichen Cyberangriff handeln könnte, vergingen Monate und die Arbeit war um Jahre zurückgeworfen worden.

Für Länder und internationale Behörden genügt es nicht einfach nur Ethikrichtlinien für KI vorzuschlagen und zu hoffen, dass sich alle daran halten werden. Wenn wir etwas aus den Cyberattacken und den Botnetzen lernen können, dann ist es die Tatsache, dass Staaten und Kulturkreise mit unterschiedlichen Vorstellungen von Moral und Ethik diese Technologie ebenso zu ihrem Zweck einsetzten werden wie wir. Amerikas Stuxnet ist Russlands Facebook-Botnetzwerk. Mit der KI wird es nicht anders sein. China, Russland, die USA oder auch Frankreich haben KI als Schlüsseltechnologie erkannt, und dass auch und besonders in allen militärischen Bereichen.

Doch das KI-Wissen bei den Institutionen lässt noch zu wünschen übrig. Die entsprechenden Stellen kämpfen selbst noch mit der Digitalisierung, wie die Corona-Pandemie deutlich ins Bewusstsein gebracht hat. Der Panzer, der an der Staatsgrenze auftaucht wird ernster genommen als die Hacker oder die KI, die sich in den Servern der Ministerien, Unternehmen und Bürgern breit machen. es gehört dringend eine eigene Agentur oder Behörde ins Leben gerufen, die auf dem Rang des Verteidigungsministeriums steht. Die stärkere Bedrohung kommt durch das Ethernet, und klettert nicht mehr über den Grenzzaun.

Ernst genommen – und da brauche ich nicht der große Prophet sein – wird es erst, wenn durch solch eine Atttacke eine KI tausende Menschen tötet oder dem Staat hunderte Milliarden Euro abluchst. Erst dann wird auch dem Letzten bewusst werden, dass undingliche Dinge dinglichen Schaden anrichten können.

Das Kommen eines KI Pearl Harbors ist nicht unausweichlich, weil wir uns nicht dagegen vorbereiten und verteidigen können, sondern weil wir – wie immer – es erst dann ernst nehmen, wenn es geschehen ist.

Ein Gedanke zu “Das Kommen eines KI Pearl Harbor ist unausweichlich

Schreibe eine Antwort zu marstein Antwort abbrechen