Gerechtigkeit und Diskriminierung im Kontext von KI (2019)

Arbeitsmaterial für medienpädagogische Fortbildung

Bei der Sitzung der Enquete-Kommission “Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ am 3.06. 2019 hielt Prof. Dr. Judith Simon, Universität Hamburg, Lehrstuhl für Ethik in der Informationstechnologie, ein Kurzreferat zu diesem Thema (02:20 bis 12:45).
Es kann gut als Arbeitsmaterial für medienpädagogische Fortbildung genutzt werden.

Vier Zitate:

Judith Simon definiert Diskriminierung als “ungerechtfertigte Ungleichbehandlung von Gleichen oder ungerechtfertigte Gleichbehandlung von Ungleichen“

“Datenbasierte KI-Systeme lernen auf Basis vorhandener Daten. Resultierende Prognosen und Empfehlungen schreiben somit Vergangenheit in die Zukunft fort, wodurch bestehende gesellschaftliche Ungerechtigkeiten durch den Einbau in scheinbar neutrale Technologien verschleiert und potentiell verstärkt werden.“

Sie fordert “angemessene Aufsicht und Kontrolle von KI-Sytemen. Besonders in sensiblen Bereichen bedarf dies des Aus- oder Aufbaus gut ausgestatteter Institutionen ...“

“Welche Kriterien für Gerechtigkeit in welchem Kontext angemessen sind, ist keine technische Frage, sondern eine gesellschaftliche und politische. Daher dürfen diese Entscheidungen nicht Softwareentwicklerinnen und -entwicklern überlassen werden.“