Switzerland

Fehlerhafte Algorithmen: Twitter verspricht, sein Rassismusproblem zu lösen

Ein Nutzer hat nachgewiesen, dass Twitters Algorithmen weisse Gesichter bevorzugt behandelt. Das Unternehmen gelobt Besserung – und es wird sich ohne Zweifel auf dieses Versprechen behaften lassen müssen.

Mit der Auswahl eines weissen und eines schwarzen Gesichts hält Twitter das weisse für interessanter.

Mit der Auswahl eines weissen und eines schwarzen Gesichts hält Twitter das weisse für interessanter.

Screenshot: TA

Verwendet Twitter rassistische Algorithmen? Ein Nutzer hat mit einem aufschlussreichen Experiment eine Diskussion zu dieser Frage provoziert. Ein Softwareentwickler namens Tony Arcieri – @bascule auf Twitter – hat ein hochformatiges Bild bei Twitter veröffentlicht, das am oberen Ende ein Porträt des republikanischen Fraktionsvorsitzenden Mitch McConnell und am unteren Ende den ehemaligen US-Präsidenten Barack Obama zeigt.

Für solche Bilder mit aussergewöhnlichen Formaten verwendet Twitter einen Algorithmus, der für die Voransicht den interessantesten Teil des Bildes auswählt. Das Bild als Ganzes gibt es erst zu sehen, wenn es angeklickt wird. Der Befund war, dass der Algorithmus den weisshäutigen McConnell auswählte – nicht den dunkelhäutigen Obama.

Nun könnte man denken, dass der Algorithmus das Bild von oben nach unten analysiert, wie es ein menschlicher Betrachter tun würde. Allerdings ergibt ein Test mit vertauschten Positionen das gleiche Resultat. Und noch schlimmer: Mit invertierten Farben erscheint plötzlich Obama in der Voransicht. Diese Bearbeitung hat zur Folge, dass wie bei einem Fotonegativ Obamas Haut heller ist als die von McConnell.

Arcieri nennt das einen rassistischen Algorithmus. Und er prangert das an mit dem Verweis, wie dunkelhäutige Menschen im Alltag durch Algorithmen direkt und mit viel weitreichenderen Folgen benachteiligt werden: «Nature» hat im Oktober eine Studie veröffentlicht, in der eine Software untersucht wurde, die in US-Krankenhäusern zur Zuteilung medizinischer Leistungen benutzt wird. Der Befund: Schwarze Patienten würden systematisch diskriminiert.

Fragwürdige Gesichtserkennung

Erwiesen ist auch, dass die Fehler bei der Gesichtserkennung bei Schwarzen und bei Menschen mit asiatischen Gesichtszügen häufiger sind als bei weissen Menschen. Solche Software wird von Polizei und Strafverfolgungsbehörden verwendet und führt unweigerlich zu falschen Beschuldigungen. Microsoft und Amazon, die solche Produkte entwickeln, stellen sie den Behörden nicht mehr zur Verfügung.

Den Algorithmen Rassismus zu unterstellen, wäre zu kurz gegriffen. Die verzerrten Ergebnisse entstehen bei der Implementierung der Systeme: Systeme, die auf maschinellem Lernen basieren, werden anhand von Referenzdaten trainiert: Wenn ein Algorithmus zur Bildbeurteilung mit einer Datenbank gefüttert wird, in der weisse Männer übervertreten sind, dann wird er diese hinterher besser unterscheiden können.

In die Diskussion, die nach Arcieris Experiment entstanden ist, haben sich auch zwei Twitter-Manager eingeschaltet. Designchef Dantley fand klare Worte: «Das ist hundertprozentig unser Fehler. Niemand sollte etwas anderes behaupten. Der nächste Schritt ist jetzt, es zu reparieren.» Technikchef Parag Agrawal schrieb seinerseits, er schätze diese rigorose öffentliche Aufsicht durch die Nutzer – und versprach, man werde Lehren ziehen.

Und ja: Die Voreingenommenheit bei solchen Algorithmen ist störend. Doch sie basiert, anders als bei Alltagsrassismus, nicht auf überlieferten Gewohnheiten, sondern auf Mängel bei der Implementierung. Die sind behebbar. Und vor allem zeigen sie Vorurteile auf, die selbst in einem Unternehmen wie Twitter auftreten, das ethnische Vielfalt und Integration als höchste Firmentugenden benennt. Doch wegen der Algorithmen kann die Öffentlichkeit das Unternehmen auf diese Werte behaften – und wird das auch tun. Twitter hat keine andere Wahl, als die Lehren auch wirklich zu ziehen.

Football news:

Präsident La Liga über den Abgang von Messi: Das wird kein Drama für uns. Und Sein Ruf wird leiden
Ronaldo ist ein UFC-Fan. Habib ist angeschlagen, hat mit Conor trainiert, ist bei allen Top - Kämpfern unter Vertrag, wird Sicher auch Zuschauen-direkt während des Juventus-Spiels
Nur Milan hat in dieser Saison in den Top 5 der europäischen Ligen keine Punkte verloren. Aston Villa verlor 0:3
🎮 Wir haben ein Spiel über Habib gemacht - kämpfen Sie für ihn und versuchen Sie, Gage zu füllen
Tebas über den Clásico: das Spiel der besten Teams der Welt. La Liga-Präsident Javier Tebas hat sich über die Konfrontation zwischen dem FC Barcelona und Real Madrid geäußert
Leeds-Stürmer Bamford machte einen hattrick. Er hat 6 Tore in 6 spielen der APL
Moyes über die Zuschauer in den Stadien: die Leute schauen Spiele in den Kinos, warum kann man das nicht auf der Straße machen? David Moyes, Trainer von West Ham, glaubt, dass wir die Fans wieder auf die Tribüne Holen müssen