KI: Rassistische Vorurteile kaum erkannt

Die meisten Nutzer können rassistische Vorurteile einer Künstlichen Intelligenz (KI) nicht erkennen. Zu diesem Ergebnis kommen Forscher der Pennsylvania State University. In ihrer kürzlich in "Media Psychology" veröffentlichten Studie haben sie 769 Probanden gebeten, solche verzerrten KI-Trainingsdaten zu bewerten. Aber die meisten bemerkten die Voreingenommenheit nicht - es sei denn, sie gehörten selbst zur negativ dargestellten Gruppe.

Glücklichere Weiße

Bei der Erkennung von Gesichtern und Emotionen kann KI voreingenommen sein, etwa indem sie weiße Menschen als glücklicher einstuft als Menschen anderer ethnischer Herkunft. Das passiert, weil die zum Trainieren der KI verwendeten Daten eine unverhältnismäßig hohe Anzahl glücklicher weißer Gesichter enthielten, was dazu führte, dass die KI ethnische Zugehörigkeit mit emotionalem Ausdruck in Verbindung brachte.

Die Wissenschaftler wollten herausfinden, ob Laien verstehen, dass nicht repräsentative Daten, die zum Trainieren von KI-Systemen verwendet werden, zu einem verzerrten Bild führen können. Sie plädieren dafür, KI-Systeme so zu trainieren, dass sie "für alle funktionieren" und Ergebnisse liefern, die vielfältig und repräsentativ für alle Gruppen sind, nicht nur für eine Mehrheit.

"Im Fall dieser Studie scheint die KI gelernt zu haben, dass die ethnische Zugehörigkeit ein wichtiges Kriterium für die Bestimmung ist, ob ein Gesicht glücklich oder traurig ist", sagt der leitende Autor S. Shyam Sundar. "Auch wenn wir nicht beabsichtigen, dass sie das lernt."

Challenge Klassifizierung