Früher war es Maschinen oft egal, wer wir sind. Immer öfter aber bestimmen ihre Algorithmen, wer einen Kredit oder einen Job erhält. Und bei diesen Entscheidungen spielen unser Name, unsere Herkunft, unser Aussehen und unser Geschlecht plötzlich eine grosse Rolle. Daher ist es wichtig, dass möglichst diverse Perspektiven in ihre Entwicklung einfliessen.
Stellen Sie sich vor, Sie kommen nach Hause und wollen in Ihre Wohnung. Doch die Tür, die ins Gebäude führt, bleibt geschlossen. Oder: Sie gehen auf eine Flughafentoilette. Wie Sie sich anschliessend die Hände waschen wollen, stutzen Sie. Der Wasserhahn bleibt trocken. Und warum passiert Ihnen das? Weil Sie eine schwarze Frau sind. Und die Gesichtserkennung in der Kamera, die Ihnen die Tür oder den Wasserhahn geöffnet hätte, Sie wegen dieser beiden Merkmale nicht erkannt hat.
