Die Bundesregierung hat eine Expertenkommission ins Leben gerufen, die sich mit den Gefahren einer Diskriminierung durch Algorithmen beschäftigen soll. Denn: "Die Annahme, datenbasierte Entscheidungen seien neutral, ist falsch und gefährlich", sagt Marion A. Weissenberger-Eibl, Leiterin des Fraunhofer-Instituts für System- und Innovations­forschung ISI. Ihrer Meinung nach können ein geschärftes Bewusstsein für die Risiken, mehr Transparenz und Nachvollziehbarkeit dazu beitragen, die Diskriminierung einzudämmen. 

Ist es möglich, dass Algorithmen ­bestimmte Personengruppen aufgrund ihrer Merkmale wie Geschlecht, Alter, Wohnort oder Hautfarbe diskriminieren?

Marion A. Weissenberger-Eibl: Auch wenn wir viel Hoffnung in die Neutralität und Objektivität von Algorithmen legen, trifft künstliche Intelligenz (KI) immer wieder diskriminierende Entscheidungen. So haben Algorithmen beispielsweise im amerikanischen Strafjustizsystem diskriminiert, indem Risikobewertungssysteme bestimmte Personengruppen systematisch benachteiligt haben. Mittlerweile hat sich ein Bewusstsein für die ethischen und rechtlichen Herausforderungen im Umgang mit Algorithmen und KI entwickelt. Das ist ein sehr wichtiger Schritt, da KI bereits Einzug in unser ­Leben gehalten hat.