KI und Rassismus

KI-Systeme sind nur so gut wie die Daten, mit denen sie trainiert werden. Das bedeutet, dass Technologie niemals neutral ist und Vorurteile übernimmt. Sind die Daten, mit denen solche Intelligenzsysteme angereichert werden, rassistisch, ist es auch die Technologie. So kam es, dass intelligente Systeme nicht in der Lage waren, schwarze Menschen als solche zu identifizieren, da sie während der Einpflege der Daten vernachlässigt wurden. Sie wurden stattdessen als Gorillas kategorisiert.