INTERNET WORLD Logo Abo
Interview
Sonstiges
20.03.2020
Sonstiges
20.03.2020

Interview mit KI-Expertin "Der Algorithmus entscheidet nicht neutral"

shutterstock.com/Bohbeh
shutterstock.com/Bohbeh

Ob Preisoptimierung, Produktempfehlungen oder Bonitätsprüfung: Algorithmen sollen stets die beste Lösung berechnen. Was aber, wenn sie dabei Menschen diskriminieren?

Die Bundesregierung hat eine Expertenkommission ins Leben gerufen, die sich mit den Gefahren einer Diskriminierung durch Algorithmen beschäftigen soll. Denn: "Die Annahme, datenbasierte Entscheidungen seien neutral, ist falsch und gefährlich", sagt Marion A. Weissenberger-Eibl, Leiterin des Fraunhofer-Instituts für System- und Innovations­forschung ISI. Ihrer Meinung nach können ein geschärftes Bewusstsein für die Risiken, mehr Transparenz und Nachvollziehbarkeit dazu beitragen, die Diskriminierung einzudämmen. 

Ist es möglich, dass Algorithmen ­bestimmte Personengruppen aufgrund ihrer Merkmale wie Geschlecht, Alter, Wohnort oder Hautfarbe diskriminieren?

Marion A. Weissenberger-Eibl:
Auch wenn wir viel Hoffnung in die Neutralität und Objektivität von Algorithmen legen, trifft künstliche Intelligenz (KI) immer wieder diskriminierende Entscheidungen. So haben Algorithmen beispielsweise im amerikanischen Strafjustizsystem diskriminiert, indem Risikobewertungssysteme bestimmte Personengruppen systematisch benachteiligt haben. Mittlerweile hat sich ein Bewusstsein für die ethischen und rechtlichen Herausforderungen im Umgang mit Algorithmen und KI entwickelt. Das ist ein sehr wichtiger Schritt, da KI bereits Einzug in unser ­Leben gehalten hat.

Sie möchten weiterlesen?
Digital plus jetzt 1 Monat kostenlos testen*
  • alle PLUS-Artikel auf allen Devices lesen
  • Inklusive digital Ausgabe des Magazins
  • alle Videos und Podcasts
  • Zugang zum Archiv aller digitalen Ausgaben
  • Commerce Shots, das Entscheider-Briefing für den digitalen Handel
  • monatlich kündbar

*danach € 9,90 EUR/Monat, monatlich kündbar

Das könnte Sie auch interessieren