Racisme

La qualité des systèmes algorithmiques dépend de la qualité des données qui les alimentent. Cela signifie que la technologie n’est jamais neutre et qu’elle adopte également des préjugés. Si les données qui servent à enrichir les systèmes d’intelligence artificielle sont racistes, la technologie l’est aussi. Il arrive ainsi que des systèmes intelligents n’aient pas été en mesure d’identifier des personnes de couleur en tant que telles parce qu’elles ont été négligés pendant la saisie des données. En lieu et place, elles ont été classées dans la catégorie des gorilles.