Genderstereotypisierung bei Googles Übersetzungs-KI

Als wichtiges Thema in der Entwicklung künstlicher Intelligenz kristallisiert sich immer mehr die Datenverzerrung dar, die durch schlecht kuratierte Daten entstehen. Dazu muss man wissen, dass heutige KI durch Maschinenlernen mit Millionen und Abermillionen Datensätzen gefüttert wird. Woher diese Daten kommen und wer sie auswählt und zusammenstellt, ist dabei entscheidend. Hat ein solches Datenset, das Gesichter erkennen soll, vorwiegend Gesichter mit heller Hautfarbe oder mehr Männer statt Frauen, dann werden solche zwar gut erkannt, aber die KI macht dann bei Frauen oder dunkelhäutigen Menschen, oder gar in Kombination bei der Gesichtserkennung von dunkelhäutigen Frauen mehr Fehler.

Mag das bei der Gesichtserkennung nicht gleich so tragisch sein, kann es bei anderen System über Leben und Tod, Gefängnis oder Freiheit, oder Kreditvergabe oder Ablehnung führen. Eine weitere Falle ist, dass menschliche Stereotypen in den System verankert und vertieft werden. Einen solchen Fall entdeckte die in Helsinki lebende Russin Anna Kholina. Sie lies von Google Translate, eine KI-basierte Online-Übersetzungssoftware, einige Sätze aus der geschlechtsneutralen finnischen Sprache ins Englische übersetzen. Das Ergebnis widerspiegelte Gender-Stereotypen. Sätze, die das System mit typisch weiblichen Aktivitäten verband, wurden mit dem weiblichen Fall übersetzt, solche mit typisch männlichen Aktivitäten mit dem männlichen Fall.

Solche Übersetzungen stellen ein Problem dar, wenn es darum geht, Gender-Stereotypen auszumerzen. Dass Frauen wählen dürfen, studieren und Berufe ergreifen können, und selbst bis vor kurzem nur Männern offen gestanden Rollen heute auch selbstverständlich ausüben können, ist nicht selbstverständlich und hat sehr viel auch mit der Sprache und dem Aufzeigen von Möglichkeiten zu tun.

„Genderstereotypisierung bei Googles Übersetzungs-KI“ weiterlesen

Die Zunge des Spechts ODER Die digitale Anti-Renaissance

An die siebentausend eng mit Notizen und Zeichnungen beschriebenen Seiten haben Leonardo da Vincis Nachlass überlebt. Es wird vermutet, dass das ein Viertel seines umfangreichen Schaffens darstellte, das alle damals bekannten Bereiche der Wissenschaft und Kunst umfasste. So groß war da Vincis Hunger nach Wissen gewesen, dass er sich immer wieder in neue Fragestellungen verzettelte, und nur wenige seiner Aufträge beenden konnte. Ein wahrer Renaissance-Mensch mit Tendenzen zum Prokrastinieren.

Die Renaissance war einerseits ein Interesse an den Lehren der klassischen Antike, andererseits aber auch das endgültige Loslösen davon und der Beginn der modernen Wissenschaften. Da Vinci war ein ganz wichtiger Vertreter, weil er stärker als alle vor ihm und seine Zeitgenossen Experimente durchführte. Als uneheliches Kind geboren genoß er nicht die Vorzüge eines Buchgelehrten. Die wichtigsten Bücher damals waren noch in Latein, was er nie gelehrt bekam, und der Buchdruck gerade erst erfunden worden und Bücher in der lokalen Sprache erst im Kommen.

Was ihm hier fehlte füllte er aber mit Neugier und Experimenten aus. Er konstruierte für viele seiner Fragestellungen Versuchsapparate um die Antworten zu finden. Unter anderem entwickelte er ein Glasherz, um zu sehen wie sich die Herzklappen öffnen und schließen. Etwas, das erst wieder in der Mitte des 20. Jahrhunderts gelingen sollte. „Die Zunge des Spechts ODER Die digitale Anti-Renaissance“ weiterlesen

Kassandra oder Die Zukunft ist weiblich

Handleser, Priesterinnen und Hexen werden seit Jahrtausenden mit Vorhersagen und Weissagungen verbunden. Während Handleser, Hexen oder Teesudlesern wenig soziale Achtung erhalten, standen jungfräuliche Priesterinnen wie beispielsweise im Orakel von Delphi hoch im Ansehen. Könige und Heerführer nahmen beschwerliche Anreisen auf sich um zu erfahren, ob ihnen die Gunst der Götter geneigt war bei bevorstehenden politischen und militärischen Aufgaben.

Eine schöne Tochter des trojanischen Königs Priamos und seiner Frau Hekabe erweckte die Aufmerksamkeit der Götter. Sie besaß die Gabe die Zukunft vorhersagen zu können. Bereits damals dachte sich so manch Mächtiger nicht viel dabei, Frauen sexuell zu belästigen. Niemand geringerer als Apollon, der Gott der Musik und Kunst, machte sich an die Prinzessin ran. Als sie sich aber seinen Avancen verweigerte, verfluchte er sie. Weder ihr noch ihren Nachkommen sollten von nun an die Vorhersagen geglaubt werden. Ihr Name wurde zum Synonym für Warnungen denen kein Glaube geschenkt wurde und später als Tragödie doch die Menschen ereilte. Der Name der verfluchten Prinzessin war Kassandra.

Mercury_Train

Foresight Mindset Workshop
Trends und Businessideen frühzeitig erkennen
Ganztägig am 25.1.2018 in Wien
Hier geht’s zur Anmeldung.

Ignorierte Kassandra

Dieser Name blieb bis in die Gegenwart an den Experten hängen, die aufrüttelnde Trends oder eine gefährliche Zukunft erkennen und andere davor zu warnen versuchen. Kassandrarufe stellen eine ganze Kategorie an Vorhersagen dar. „Kassandra oder Die Zukunft ist weiblich“ weiterlesen