…und sobald sie hinter dem Vorhang zu vernehmen waren, endeten die Gespräche, die Notizblätter raschelten noch einmal kurz, und nach einigem Räuspern hinter vorgehaltenen Händen wurde es leise. Der Ton eines Cellos durchbrach die Stille und das Publikum lauschte angespannt. Zu sehen war nichts, denn der Vorhang blieb zu und nur die Musik war zu vernehmen. Einige Minuten ging das so hin, wobei die Anwesenden abwesend und weit weg schienen, denn manche hatten ihre Augen geschlossen und sich weit zurückgelehnt. Beobachter hätten vermuten können, sie wären eingeschlafen, wenn da nicht ihre Hände der Melodie gefolgt wären. Sobald das Spiel endete, erhob sich nicht der sonst übliche Applaus. Kleiderrascheln, ein gegen das Cello klappender Bogen war zu hören und dann verschwanden die Schritte in der Ferne hinter dem Vorhang. Das sollte sich den ganzen Tag wie ein Ritual wiederholen. Schritte, Räuspern, Schnäuzen, Rascheln, Musik, dann Klappern und verschwindende Schritte.
Wir sind Zeugen eines Auswahlverfahrens für neue Orchestermitglieder geworden und das Vorspiel hinter dem Vorhang sollte für einen fairen Ablauf sorgen. Die großen Symphonieorchester hatten vor 50 Jahren begonnen, ihre Suche nach Musikern neu zu organisieren. Die zumeist ausschließlich männlich besetzten Orchester waren bis dahin von den ebenso männlichen Dirigenten oder Musikdirektoren handverlesen auserkoren worden. Doch die Zeiten hatten sich geändert. Nicht nur hatten die Orchestermitglieder ein Mitspracherecht verlangt und errungen, sie wollten auch weibliche Musiker in ihre Ränge aufnehmen. Die bisherige Auswahlmethode, bei der die Kandidaten auf der offenen Bühne vorspielten, siebte Frauen jedoch fast immer vollständig aus. Männliche Voreingenommenheit zu weiblichen Musikern ließ sich nicht einfach auf Befehl abstellen. Deshalb wurde das Vorspiel hinter einem Vorhang zum Standardrepertoire der meisten Orchester, und die Zahl der ausgewählten weiblichen Kandidatinnen schnalzte um ein Viertel nach oben. Was im ersten Moment nach viel klang, war es aber doch nicht, denn immer noch fielen zu viele Kandidatinnen durch das Sieb.
Waren die Frauen etwa noch immer nicht gut genug? Nein, die Herrenjury hatte unbewusst noch andere Hinweise nach dem Geschlecht der Kandidaten aufgenommen. Ein klappernder Schritt einer Frau in Stöckelschuhen oder ein zu weicher Gang in flachen Schuhen enthüllte unmissverständlich das Geschlecht. Seither werden hinter der Bühne die Schuhe ausgezogen, damit die Kandidaten barfüßig unerkannt bleiben.
Wenn schon wir Menschen bewusst oder unbewusst Kriterien wahrnehmen, die unsere Vorurteile verstärken, wie dann erst eine künstliche Intelligenz, die, inspiriert vom menschlichen Gehirn, und gefüttert mit von Menschen erzeugten Daten Zugriff auf noch mehr solcher Kriterien hat und Muster darin findet, die implizit Vorurteile widerspiegeln?
Der Online-Retailer Amazon kämpfte fast zwei Jahre lang mit seiner KI, die durch eine steigende Flut von tausenden Bewerbungen pro Woche gehen und die richtigen Kandidaten herausfiltern sollte. Verdächtig machte sich das System allerdings, weil fast keine weiblichen Kandidatinnen vorgeschlagen wurden. Nachforschungen zeigten, dass die Bewerbungsunterlagen der hunderttausenden bisherigen Mitarbeiter Männer bevorzugt hatte und die KI lernte daraus einfach, dass Frauenvolleyball an der Uni oder weibliche Vornamen keinem Muster der Trainingsdaten entsprachen und sie damit ausgemustert wurden. Amazon begann diese Kriterien zu entfernen, doch die KI identifizierte munter andere Kriterien. Der Kampf blieb aussichtslos und Amazon gab auf. Heute sehen sich wieder Menschen die Bewerbungsunterlagen an, die KI wurde gefeuert.
Der Bias – auf Deutsch: Voreingenommenheit – von KI wird uns noch mehr beschäftigen, wie auch noch viele Chancen, Möglichkeiten und Risiken. Und dazu müssen wir Möglichkeiten finden, KIs zu testen und evaluieren. Tests gibt es viele, die meisten würden spezifisch für Menschen entwickelt, andere für Maschinen.
Das ist ein kleiner Auszug aus meinem im Herbst erscheinenden Buch Kreative Intelligenz: Wie ChatGPT und Co die Welt verändern werden. Es kann bereits hier vorbestellt werden.
