Hochrangige Expertengruppe für künstliche Intelligenz,
Entwurf der Ethik-Leitlinien für eine vertrauenswürdige KI (2018)

Die von der EU-Kommission berufene Arbeitsgruppe aus 52 Experten/innen aus Wissenschaft, Wirtschaft und Zivilgesellschaft stellte am 18. December 2018 ihren Entwurf vor. Anschließend wurde eine “Konsultation der Interessenträger im Rahmen der Europäischen KI-Allianz“ initiiert, die zahlreiche Veränderungsvorschläge erbrachte. Eine überarbeitete Fassung ist angekündigt, aber noch nicht erschienen.

Empfehlungen für politische Entscheidungen und gesetzliche Regelungen sind in diesem Papier nicht formuliert. Sie sollen in einem noch zu erarbeitenden zweiten Papier vorgelegt werden.

Mittlerweile liegt eine deutschsprachige Zusammenfassung des ersten Entwurfs vor:

ÜBERSICHT ÜBER DIE LEITLINIEN

Jedes Kapitel der Leitlinien enthält Hinweise zur Verwirklichung einer vertrauenswürdigen KI und richtet sich an alle einschlägigen Beteiligten, die sich mit der Entwicklung, Einführung oder Nutzung von KI befassen. Die Leitlinien lassen sich wie folgt zusammenfassen:

Kapitel I: Richtschnur für die Gewährleistung des ethischen Zwecks:

  • Gewährleistung, dass die KI auf den Menschen ausgerichtet (menschenzentriert) ist: KI sollte mit einem “ethischen Zweck“ entwickelt, eingeführt und genutzt werden, der auf Grundrechten, gesellschaftlichen Werten und den folgenden ethischen Grundsätzen beruht und diese widerspiegelt: Benefizienz (Gutes tun), Schadensverhütung (keinen Schaden zufügen), Achtung der menschlichen Autonomie, Gerechtigkeit und Erklärbarkeit. Diese bilden die Voraussetzung für die Arbeit an einer vertrauenswürdigen KI.
  • Ausgehend von Grundrechten, ethischen Grundsätzen und Werten erfolgt eine vorausschauende Abschätzung möglicher Folgen der KI für die Menschen und das Gemeinwohl. Das besondere Augenmerk liegt dabei auf Situationen, in denen schutzbedürftige Gruppen wie Kinder, Menschen mit Behinderungen oder Minderheiten betroffen sind, oder auf Situationen mit ungleicher Macht- oder Informationsverteilung, etwa zwischen Arbeitgebern und Arbeitnehmern oder Unternehmen und Verbrauchern.
  • Bewusstmachung und Berücksichtigung der Tatsache, dass die künstliche Intelligenz zwar erhebliche Vorteile für den Einzelnen und die Gesellschaft bringt, aber auch negative Auswirkungen haben kann. Es gilt, in wichtigen Problembereichen wachsam zu bleiben.

Kapitel II: Richtschnur für die Verwirklichung einer vertrauenswürdigen KI:

  • Einbeziehung der Anforderungen an eine vertrauenswürdige KI ab der frühesten Entwurfsphase: Rechenschaftspflicht, Datenqualitätsmanagement, Entwurf für alle, Steuerung der KI-Autonomie (menschliche Aufsicht), Nichtdiskriminierung, Achtung der menschlichen Autonomie, Wahrung der Privatsphäre, Robustheit, Sicherheit, Transparenz.
  • Berücksichtigung technischer und nichttechnischer Methoden, um die Umsetzung dieser Anforderungen im KI-System sicherzustellen. Auch bei der Zusammenstellung des Teams für die Arbeit an dem System, im System selbst, dem Testumfeld und den möglichen Anwendungen des Systems dürfen diese Anforderungen nicht außer Acht gelassen werden.
  • Klare und proaktive Information der Beteiligten (Kunden, Mitarbeiter usw.) über die Möglichkeiten und Grenzen des KI-Systems, damit sie realistische Erwartungen haben können. In dieser Hinsicht kommt es entscheidend darauf an, dass die Rückverfolgbarkeit des KI-Systems gewährleistet ist.
  • Einbeziehung einer vertrauenswürdigen KI als Teil der Unternehmens- oder Organisationskultur und Information der Beteiligten und Betroffenen darüber, wie die vertrauenswürdige KI in die Gestaltung und Nutzung von KI-Systemen eingebunden ist. Die vertrauenswürdige KI kann auch in die berufsethischen Regeln oder Verhaltenskodizes der Organisationen aufgenommen werden.
  • Gewährleistung der Teilnahme und Einbeziehung der Interessenträger in Entwurf und Entwicklung des KI-Systems. Außerdem sollte bei der Aufstellung der Teams, die das Produkt entwickeln, implementieren und testen sollen, auf Diversität geachtet werden.
  • Bemühung um eine leichtere Überprüfbarkeit von KI-Systemen, insbesondere in kritischen Zusammenhängen oder Situationen. Soweit möglich, sollte das System so konzipiert werden, dass individuelle Entscheidungen anhand der verschiedenen Eingaben, Daten und vortrainierten Modelle zurückverfolgt werden können. Außerdem sollten Erklärungsmethoden für das KI-System geschaffen werden.
  • Gewährleistung eines besonderen Prozesses für die Gewährleistung der Rechenschaftspflicht.
  • Einplanung von Schulung und Ausbildung, damit Manager, Entwickler, Nutzer und Arbeitgeber sich der vertrauenswürdigen KI bewusst werden und lernen, damit umzugehen.
  • Berücksichtigung der Tatsache, dass grundlegende Konflikte zwischen verschiedenen Zielen auftreten können (Transparenz kann dem Missbrauch Tür und Tor öffnen, die Erkennung und Berichtigung von Verzerrungen kann gegen den Datenschutz verstoßen). Diese Abwägungen müssen kommuniziert und dokumentiert werden.
  • Förderung der Forschung und Innovation, um die Erfüllung der Anforderungen an vertrauenswürdige KI weiter zu verbessern.

Kapitel III: Richtschnur für die Bewertung vertrauenswürdiger KI:

  • Aufstellung einer Bewertungsliste für vertrauenswürdige KI in Bezug auf die Entwicklung, Einführung oder Nutzung der KI und deren Anpassung an den konkreten Anwendungsfall, in dem das System eingesetzt wird.
  • Es gilt zu bedenken, dass eine Bewertungsliste niemals erschöpfend ist und dass es bei vertrauenswürdiger KI nicht um das Abhaken von Kästchen auf einer Liste geht, sondern um einen kontinuierlichen Prozess der Ermittlung von Anforderungen, der Bewertung von Lösungen und der Erzielung besserer Ergebnisse über den gesamten Lebenszyklus des KI-Systems.

Diese Leitlinien sind Teil einer Vision, die ein auf den Menschen ausgerichtetes Herangehen an die künstliche Intelligenz aufgreift und Europa die Chance eröffnet, zu einem weltweit führenden Innovator auf dem Gebiet der ethischen, sicheren und hochmodernen KI aufzusteigen. Ziel ist es, eine “vertrauenswürdige KI made in Europe“ zum Wohle der europäischen Bürgerinnen und Bürger zu ermöglichen und zu fördern.

Quelle

Das komplette 30-seitige englischsprachige Dokument kann kostenfrei als PDF-Datei herunter geladen werden.