Genderstereotypisierung bei Googles Übersetzungs-KI

Als wichtiges Thema in der Entwicklung künstlicher Intelligenz kristallisiert sich immer mehr die Datenverzerrung dar, die durch schlecht kuratierte Daten entstehen. Dazu muss man wissen, dass heutige KI durch Maschinenlernen mit Millionen und Abermillionen Datensätzen gefüttert wird. Woher diese Daten kommen und wer sie auswählt und zusammenstellt, ist dabei entscheidend. Hat ein solches Datenset, das Gesichter erkennen soll, vorwiegend Gesichter mit heller Hautfarbe oder mehr Männer statt Frauen, dann werden solche zwar gut erkannt, aber die KI macht dann bei Frauen oder dunkelhäutigen Menschen, oder gar in Kombination bei der Gesichtserkennung von dunkelhäutigen Frauen mehr Fehler.

Mag das bei der Gesichtserkennung nicht gleich so tragisch sein, kann es bei anderen System über Leben und Tod, Gefängnis oder Freiheit, oder Kreditvergabe oder Ablehnung führen. Eine weitere Falle ist, dass menschliche Stereotypen in den System verankert und vertieft werden. Einen solchen Fall entdeckte die in Helsinki lebende Russin Anna Kholina. Sie lies von Google Translate, eine KI-basierte Online-Übersetzungssoftware, einige Sätze aus der geschlechtsneutralen finnischen Sprache ins Englische übersetzen. Das Ergebnis widerspiegelte Gender-Stereotypen. Sätze, die das System mit typisch weiblichen Aktivitäten verband, wurden mit dem weiblichen Fall übersetzt, solche mit typisch männlichen Aktivitäten mit dem männlichen Fall.

Solche Übersetzungen stellen ein Problem dar, wenn es darum geht, Gender-Stereotypen auszumerzen. Dass Frauen wählen dürfen, studieren und Berufe ergreifen können, und selbst bis vor kurzem nur Männern offen gestanden Rollen heute auch selbstverständlich ausüben können, ist nicht selbstverständlich und hat sehr viel auch mit der Sprache und dem Aufzeigen von Möglichkeiten zu tun.

„Genderstereotypisierung bei Googles Übersetzungs-KI“ weiterlesen

FaceApp und das süße Motorrad-Mädchen

Ein unscheinbarer Twitter-Account mit einer hübschen jungen Dame, die sich als Motorrad-Enthusiastin zu erkennen gab, hat in Japan viele Fans gewonnen. Immer wieder wurde sie gesehen, wie sie vor der Maschine posierte, mit ihrem Motorrad am Meer stand oder in ihrer Werkstatt daran herum bastelte.

Bis jemand einige Ungereimtheiten entdeckte. Zum Beispiel zeigte ein Bild einen Arm mit etwas zu viel Haar, und in einem Spiegel, der auf einem Foto zu sehen war, ein weiteres kurioses Detail. Das Spiegelbild sah ganz anders aus als die junge Dame. Die Person war nicht nur viel älter, sondern auch ein Mann.

„FaceApp und das süße Motorrad-Mädchen“ weiterlesen

Wie entwirft man einen liebenswerten Roboter?

In einem TED Talk beschreibt die Roboter-Ethikerin Kate Darling vom MIT, wie sie einem Freund einen kleinen Dinosaurier-Roboter vorführte. Dieser kleine Roboter namens Pleo hatte einige Sensoren und Motoren eingebaut, er konnte herumlaufen und seinen Kopf bewegen, aber er konnte auch erkennen, ob er aufrecht stand oder lag. Wenn er lag oder herunterhing, fing er an zu weinen. Darlings Freund untersuchte den Roboter, während er ihn auf den Kopf hielt, was den Roboter zum Weinen brachte. Darling fühlte sich dabei so unwohl, dass sie den Roboter von ihrer Freundin zurücknahm.

Pleo Spielzeugroboter

Ihre Reaktion darauf, dieses Mitleid mit dem Dinosaurier-Roboter, der letztlich nichts weiter als ein Spielzeug war, erstaunte sie selbst, und sie fragte sich, warum wir emotionale Verbindungen zu Maschinen aufbauen.

Darlings Reaktion war nicht ungewöhnlich; das passiert auch anderen. In P. W. Singers Buch „Wired for War“ sprechen amerikanische Soldaten vom „Robo-Hospital“ und nicht von der „Joint Robotics Repair Facility“, wohin sie ihre Drohnen und Entminungsroboter zur Reparatur schicken. Dieselben Soldaten geben ihren Robotern „Begräbnisse mit vollen militärischen Ehren“. Und zu guter Letzt haben wir bereits von den umgestürzten Kiwibots erfahren, die von Passanten sofort wieder aufgerichtet werden, weil sie so ‚traurig‘ aussahen. All das zeigt uns, dass wir Menschen sehr schnell in der Lage sind, solche emotionalen Verbindungen herzustellen. Alles, was sich bewegt und nach Leben aussieht, kann unser Mitgefühl wecken.

„Wie entwirft man einen liebenswerten Roboter?“ weiterlesen

Welche Jobs wird Künstliche Intelligenz uns so bald nicht wegnehmen können?

Zu den Ängsten, die Menschen zu Robotern und Künstlicher Intelligenz immer wieder ausdrücken, ist die um Arbeitsplätze. Welche Jobs werden Menschen machen, wenn Maschinen alles übernehmen? Zuerst mal sind es zwei Arten, wie physische und kognitive Maschinen unsere Arbeit verändern. Einmal dort, wie sie ganze Berufe ersetzen, wie beispielsweise LKW- und Taxifahrer, die durch autonome Autos ersetzt werden; und dann dort, wo sie Berufe verändern, indem sie uns Routinetätigkeiten abnehmen, wie beispielsweise das Ablesen von Röntgenbildern oder das Ausfüllen der Steuererklärung durch einen Steuerberater.

Eine Studie der Oxford University, die vor einigen Jahren einen Schock verursachte, weil die Studienautoren von 47 Prozent aller Berufsgruppen sprachen, die von Computerisierung betroffen sein werden, stellte sich bei genauerer Durchsicht als weniger radikal heraus, als im ersten Moment gedacht. Die Autoren schrieben über einige Aufgaben innerhalb dieser Berufsgruppen, die durch Computerisierung übernommen werden. Die Berufe verschwinden nicht, deren Aufgabenbereiche werden sich ändern.

Ist unsere Sorge also unbegründet oder sollten wir noch stärker in Panik geraten, wenn es um Arbeitsplätze für uns geht? Menschen tendieren dazu, die größte und flexibelste Ressource auf diesem Planeten zu wenig einzusetzen und zu berücksichtigen. Und das ist „menschliches Potenzial“. Seit Jahrhunderten bewegen wir uns weg von physisch beschwerlichen Routinetätigkeiten hin zu solchen, die immer mehr den Einsatz unseres Gehirns verlangen. Immer neue, erfüllendere und das menschliche Potenzial ausschöpfende Tätigkeiten entdecken wir, von denen wir nicht wussten, dass Menschen fähig dazu sein könnten.

Kriterien von vor Robotern sicheren Berufen

Welche Berufe sind nun – egal von welchen zukünftigen Fähigkeiten von Maschinen man ausgeht – sicher vor Robotern?

„Welche Jobs wird Künstliche Intelligenz uns so bald nicht wegnehmen können?“ weiterlesen

Natürliche Dummheit

Hat man Schwierigkeiten, einen Begriff oder eine Situation zu definieren, dann kann die Betrachtung und Definition des Gegenteils hilfreich sein. In Workshops mit Unternehmen, die sich darüber Gedanken machen, wie sie sich für die Zukunft rüsten sollen, liefern folgende Fragen viele neue Denkansätze und Erkenntnisse: „Was wäre, wenn wir mit unserem wichtigsten Produkt kein Geld mehr verdienen würden?“ oder „Würde es auffallen, wenn es uns nicht mehr gäbe?“ oder „Wir würden wir unseren Kunden das Leben am schwersten machen?

Stellen wir uns also doch folgende Frage: Was ist das Gegenteil von Intelligenz?

Dummheit.

Schon Amos Tversky, der Kognitionswissenschaftler, Stanford-Professor und Forschungspartner von Wirtschaftsnobelpreisträger Daniel Kahneman war, witzelte: „Natürliche Dummheit“ weiterlesen

Von Intelligenzräumen und menschenähnlicher Intelligenz

Glaubt man dem gängigen Narrativ in den Medien, Hollywood-Filmen und der heutigen populärwissenschaftlichen Literatur, dann steht uns mit künstlicher Intelligenz (KI) die Apokalypse bevor. Der Terminator und die Superintelligenz werden uns bald vernichten oder zumindest versklaven. KI wird smarter sein als wir, und mit ihr werden wir unsere letzte Erfindung geschaffen haben.

Auf der einen Seite trauen wir Menschen uns zu, so klug zu sein, dass wir eine Superintelligenz schaffen können, gleichzeitig  sind wir aber so dämlich, dass wir sie nicht testen und ihr Einhalt gebieten können.

Nun, Superintelligenz wird etwas sein, was wir in unsere Lebenszeit mit an Sicherheit grenzender Wahrscheinlichkeit nicht erleben werden. Und sie wird vermutlich ganz anders aussehen, als wir uns vorstellen können. Ein Fehlschluss ist bereits, dass wir solche Allgemeinen Generellen Intelligenz (AGI) immer mit menschlicher Intelligenz vergleichen und gleichsetzen. Dabei haben wir selbst schon mal Schwierigkeiten zu definieren, was denn Intelligenz überhaupt ist, und welche wir Menschen eigentlich haben. Ganz zu schweigen von der Intelligenz der Tierwelt.

Dabei haben wir Intelligenz über die Zeiträume immer anders definiert. Eine KI wird dann intelligent sein, wenn sie den Schachweltmeister besiegt. Tja, und sobald sie es schaffte mit Deep Blue gegen Garri Kasparow im Jahr 1997, definierten wir sie rasch um, den das „Brute Force“-Computing sahen wir nicht wirklich als intelligent an. Und die nächste Stufe – eine KI die einen Go-Weltmeister besiegen kann – war dann wiederum nur von Wahrscheinlichkeiten geprägte Algorithmen, also auch nicht wirklich was wir als Intelligenz verstehen wollen. „Von Intelligenzräumen und menschenähnlicher Intelligenz“ weiterlesen

Das Gorilla-Problem

Künstliche Intelligenz wird uns töten! Glaubt man der ungewöhnlichen Allianz von bekannten Wissenschaftlern, Philosophen und Unternehmensgründern, dann stellt künstliche Intelligenz die größte Gefahr für die Menschheit seit der Kernkraft dar. Stephen Hawking warnte noch vor seinem Tod vor den Gefahren. Nick Bostrom, Philosophieprofessor in Oxford und Autor des meinungsbildenden Werkes Superintelligenz bringt eine Reihe von Beispielen, anhand derer er die Gefahren künstlicher Intelligenz aufzeigt. Selbst Elon Musk, Chef von Tesla und SpaceX, ansonsten kein Feind von neuen Technologien, warnt eindringlich davor. Max Tegmark, Physiker, KI-Forscher und Mitgründer der Asilomar-Konferenz zu KI, zählt in seinem Buch Leben 3.0 eine Reihe von Szenarien auf, wie sich KI auf die Menschheit auswirken kann, und die überwiegende Zahl der Szenarien ist pessimistisch. Hier sind Tegmarks KI-Nachwirkungsszenarien:

  • Libertäres Utopia
  • Wohlwollender Diktator
  • Egalitäres Utopia
  • Torwächter
  • Schutzgott
  • Versklavter Gott
  • Eroberer
  • Nachkomme
  • Zoowärter
  • 1984
  • Rückfall
  • Selbstzerstörung

„Das Gorilla-Problem“ weiterlesen

Deutschland und KI: Zwischen Wunsch und Wirklichkeit

Stelle dir vor, du willst ein Haus bauen und erzählst der Nachbarschaft und Freunden, welch tolles Dach du darauf aufsetzen wirst. Mit allem Pipapo, von Dachziegeln die zugleich Solarzellen beinhalten, von wärmeisolierten Dachfenstern, und Schnickschnack wie dem landesüblichen Glockentürmchen und der heute standardmäßigen Dachterrasse. Der Dachstuhl in deutscher Qualitätsarbeit, sturm- und witterungsfest und noch in Jahrhunderten solide stehend.

Der herbeigeholte Zimmermann und die Dachdecker, die die Arbeit ausführen sollten, schüttelten nur den Kopf. Was sie nämlich vorfanden waren eine halb ausgehobene Baugrube mit nur teilweise fertiggestelltem Fundament, ein paar unverputzte Mauern durch deren Fenster- und Türöffnungen noch fleißig der Wind blies. Die Fenster und Türen lehnten in der Nähe und sahen so aus, als ob sie schon einige Weile auf den Einbau gewartet hätten. Wie auch das Gras und Unkraut, das die Baustelle bedeckte von vielen Bauunterbrechungen zeugten.

Ganz zu schweigen von den Inneninstallationen, die es schlicht und einfach nicht gab, weil Badezimmer, Elektroinstallationen und Teppiche keinen Schutz vor der Witterung hätten. Unser Zimmermann und Dachdecker wären ja durchaus weiter gezogen und hätten Dächer an anderen Häusern aufgesetzt, doch der Zustand der ganzen Nachbarschaft war ähnlich. „Deutschland und KI: Zwischen Wunsch und Wirklichkeit“ weiterlesen

Von doofer zu intelligenter künstlicher Intelligenz

“Maschinen werden intelligent sein, wenn sie den menschlichen Schachweltmeister schlagen,” sagten manche. Und dann geschah es. IBMs Deep Blue besiegte 1997 Garry Kasparov . “Naja, solche Maschinen sind ja nicht wirklich intelligent, die benutzen nur reine Rechenpower.” Damit antworteten die Kritiker und legten die Latte für ‚Intelligenz‘ eine Ebene höher. Wie hoch?

Aber Maschinen werden sicherlich dann intelligent sein, wenn sie den menschlichen Go-Champion besiegen.” Und genau das geschah früher als gedacht. Im März 2016 besiegte Googles AlphaGo den menschlichen Go-Weltmeister. Die Maschine konnte dabei nicht auf reine Rechenpower setzen, sondern musste mit einem auf Statistik basierten Ansatz aufsetzen.

Was sind denn nun intelligente Maschinen? Und werden sie jemals menschliche Intelligenz übertreffen? Das ist eine der Fragen wo sich selbst Experten nicht einig sind. Die Definition von Intelligenz ist je nach Spezialisten unterschiedlich, und das Ziel eine einheitliche Definition zu erhalten ist in weite Ferne gerückt. Max Tegmann vom MIT definiert sie in seinem jüngsten Buch Leben 3.0 folgendermaßen: „Von doofer zu intelligenter künstlicher Intelligenz“ weiterlesen

Künstliche Intelligenz isst Software

Als die Grenzen fielen, die damals den Westen vom Ostblock trennten, konnte sich niemand vorstelle, wie rasch in gewissen technologischen Bereichen die ehemaligen Warschauer Pakt-Länder voran preschen würden. Während einige Jahre später in Österreich noch das kabelbasierte Telefonnetz vorherrschte und der Handy-Empfang eher bescheiden war, hatte Ungarn das schnellste GSM-Netz. Das Land hatte vorher kein Geld besessen, Kabel für ein besseres Telefonnetz zu verlegen, und übersprang mit der Öffnung einfach diese Technologie und ging gleich auf drahtlose Telefonie über. Im Englischen spricht man von ‚leapfrogging‚, wo man wie ein Laubfrosch das Hindernis springt.

Genauso mag man sich heute in den deutschsprachigen Ländern fühlen, wenn man die Schulausbildung betrachtet. Sollen wir Programmieren als Fach in Schulen unterrichten oder doch nicht? Diese Frage, die eigentlich seit den 1980er Jahren mit einem klaren ‚Ja‘ beantwortet werden hätte sollen, ist noch immer kein Unterrichtsfach an unseren Schulen. „Künstliche Intelligenz isst Software“ weiterlesen