Bereits in der Vergangenheit ist Amazons System für Gesichtserkennung, „Rekognition“, negativ aufgefallen. Damals ging es darum, dass die Künstliche Intelligenz (KI) Menschen mit dunklen Hautfarben schlechter voneinander unterscheiden konnte. Wissenschaftler des Massachusetts Institute of Technology (MIT) haben nun festgestellt, dass das System offenbar auch Probleme damit hat, Frauen zu erkennen.
Amazon Rekognition hat Probleme mit schwarzen Frauen
Die Gesichterkennung von Amazon soll es mitunter Entwicklern ermöglichen, Bild- und Videoanalysen in ihre Anwendungen zu integrieren. Dazu müssen sie der Rekognition-API (Programmierschnittstelle oder „Application Programming Interface“) lediglich das entsprechende Material bereitstellen und die KI „identifiziert die darin enthaltenen Objekte, Personen, Texte, Szenen und Aktivitäten und erkennt alle unangemessenen Inhalte“. So zumindest der Grundgedanke Amazons.
Tatsächlich scheint der Service jedoch nicht ansatzweise so zuverlässig zu sein wie beworben. Wie Forscher des MIT nun berichten, hat die Rekognition-KI neben ihrem auf die Hautfarbe bezogenen Bias auch wesentliche Probleme mit der Erkennung von Frauen. Am schlimmsten sollen die Werte ausfallen, wenn die Software eine schwarze Frau erkennen soll.
Amazon: Keine Antwort auf Kritik
Im Rahmen ihrer Studie stellten die Forscher zwar fest, dass Rekognition annähernd 100 Prozent der weißen Männer als solche identifizieren kann. Jedoch sank die Zahl bei schwarzen Männern auf 98,7 Prozent ab. Weiße Frauen konnte die KI lediglich mit einer Wahrscheinlichkeit von 92,9 Prozent erkennen und bei schwarzen Frauen versagte das System mit 68,6 Prozent.
Wie die Studienleiterin Joy Buolamwini schreibt, haben die Wissenschaftler Amazon-CEO Jeff Bezos bereits im Juni vergangenen Jahres auf diesen schwerwiegenden Fehler aufmerksam gemacht. Eine Antwort blieb jedoch aus. Auch haben die Entwickler die Fehler seither nicht behoben.
Falscher Vergleich
Die einzige Reaktion gab Matt Wood von sich, der Leiter des Bereichs künstliche Intelligenz bei Amazon Web Services.
Wood warf dem Team des MIT vor, es beschäftige sich lediglich mit dem Aspekt der Gesichtsanalyse, nicht aber mit der Gesichtserkennung. So identifiziere das Analyse-Programm lediglich Merkmale, die mit den Gesichtern der gezeigten Personen einhergehen, während erst die Gesichtserkennung sie mit denen anderer Aufnahmen abgleiche.
Stattdessen stellten die Forscher die KI den Systemen der Konkurrenz gegenüber. So verglichen sie Amazon mit IBM, Face++, MSFT, Clarifal und Karios und mussten feststellen, dass auf keines der Programme vollständig Verlass ist. Viele von ihnen zeigten Probleme mit Herkunft und Geschlecht. Im Gegensatz zu Amazon reagierten die Unternehmen jedoch auf die Kritik und besserten ihre Fehler aus.
Klar ist also, dass die Software noch lange nicht bereit für den flächendeckenden Einsatz ist. Dennoch: Gesichtserkennung kann viel, aber wie viele Gesichter erkennen wir Menschen? Und brauchen wir bald keine Ausweise zum Fliegen mehr? Auf diese und weitere Fragen zum Thema KI findest du bei futurezone.de Antworten.