Amazon hat eine Künstliche Intelligenz für Bewerbungen gebaut, die Frauen diskriminierte

Jeff Bezos

Mit einem KI-Tool wollte Amazon eigentlich den Einstellungsprozess neuer Mitarbeiter vereinfachen. Berichten der Nachrichtenagentur „Reuters“ zufolge ging dieser Plan jedoch nach hinten los, als das Unternehmen entdeckte, dass das System Frauen diskriminierte.

Fünf Quellen zufolge soll Amazon 2014 ein Entwicklerteam in der schottischen Hauptstadt Edinburgh beauftragt haben, den Einstellungsprozess zu automatisieren.

Mit rund 500 Computermodellen sollten die Lebensläufe vergangener Bewerber nach rund 50.000 Schlüsselbegriffen durchforstet werden. Mit diesen Daten suchte das System dann im Internet potentielle Kandidaten, die den Personalern vorgestellt wurden.

KI ging davon aus, dass Männer vorzuziehen seien

„Sie wollten buchstäblich eine Maschine, die ihnen von 100 Lebensläufen die besten fünf ausspuckt. Diese haben  wir dann eingestellt,“ sagte eine Quelle gegenüber Reuters. 

Ein Jahr später bemerkten die Entwickler jedoch etwas Beunruhigendes an ihrer Software: sie mochte keine Frauen. Dies soll daran gelegen haben, dass der KI hauptsächlich männliche Lebensläufe vorgelegt wurden, die Amazon über einen Zeitraum von zehn Jahren zugeschickt wurden. Darauf hin ging die KI davon aus, dass Männer vorzuziehen seien. Es stufte Lebensläufe herab, die die Wörter „Frau“ enthielten und filterte Kandidaten heraus, die eine von zwei Universitäten ausschließlich für Frauen besucht haben.

Daraufhin passten die Entwickler das System an, um diese Tendenz zu beheben. Allerdings waren sie nicht sicher, ob das System nicht doch neue Wege findet, um Kandidaten zu diskriminieren. Den Quellen zufolge waren Geschlechtervorurteile nicht das einzige Problem. Die Programme gaben auch Kandidaten aus, die nicht für die entsprechende Position qualifiziert waren. 

Blindes  Vertrauen in KI führt häufig zu Problemen

Vorurteile aus dem Algorithmus zu beheben ist ein heikles Problem, da Algorithmen unterbewusste Vorurteile der Menschen mit aufnehmen. 2016 fand die Non-Profit-Organisation Propublica heraus, dass Risikobewertungssoftware, die voraussagen sollte, welche Kriminellen am wahrscheinlichsten rückfällig werden, Schwarze schlechter beurteilte. Blindes Vertrauen in KI in Bereichen wie dem Bewerbungsprozess, der Kreditvergabe und Bewährungsurteilen hat in der Vergangenheit ebenfalls zu solchen Problemen geführt.

Berichten zufolge soll Amazon das Projekt zu Beginn des vergangenen Jahres beendet haben, nachdem Verantwortliche den Glauben daran verloren hatten. Reuters-Quellen zufolge sollen Personalangestellte von Amazon die Vorschläge der KI zwar betrachtet haben, sich jedoch nicht ausschließlich auf das Urteil der Software verlassen haben.

Auf Anfrage von Business Insider gab Amazon an, sich zu Diversität und Gleichstellung am Arbeitsplatz verpflichtet zu haben, gab jedoch keinen weiteren Kommentar zum Sachverhalt ab.

Dieser Text wurde von Jonas Lotz aus dem Englischen übersetzt.

Das könnte Euch auch interessieren:

 Schwere Bestechungsvorwürfe: Amazon-Mitarbeiter löschen angeblich negative Bewertungen

 Amazon erklärt, warum Alexa weiblich ist

 Exklusiv: Amazon nutzt Fake-Pakete, um stehlende Fahrer zu überführen

Join the conversation about this story »

➡ Weiterlesen ⬅