Allgemeine Ausstellung
Home » KI » Allgemeine Ausstellung

Checkliste

Vorrang menschlichen Handelns und menschlicher Aufsicht

Technische Robustheit und Sicherheit

Schutz der Privatsphäre und Datenqualitätsmanagement

Transparenz

Fairness, Vielfalt und Nichtdiskriminierung

Gesellschaftliches und ökologisches Wohlergehen

Rechenschaftspflicht

KI: Anforderungen für Entwickler und Innovatoren

Iñigo de Miguel Beriain[1] (UPV/EHU), Felix Schaber[2] (OEAW), Gianclaudio Malgieri und Andres Chomczyk Penedo[3] (VUB)

Danksagung: Die Autoren danken José Antonio Castillo Parrilla, Eduard Fosch Villaronga und Lorena Perez Campillo für ihre freundliche Unterstützung beim Redigieren dieses Dokuments. Selbstverständlich tragen wir für alle Fehler die volle Verantwortung.

Dieser Teil des Leitfadens wurde von Marko Sijan, Senior Advisor Specialist, (HR DPA) überprüft und bestätigt.

EINLEITUNG: TEIL A

Der erste Teil dieses Kapitels befasst sich mit den sieben ethischen Anforderungen, die in den von der hochrangigen Expertengruppe für künstliche Intelligenz[4] in ihren „Ethik-Leitlinien für eine vertrauenswürdige KI“ veröffentlichten Empfehlungen enthalten sind.[5] Diese Empfehlungen wurden vor kurzem im Rahmen des SHERPA-Projekts[6] analysiert, das auch eine umfassende Analyse der ethischen Fragen bei der Entwicklung geeigneter Instrumente zur Bewältigung dieser Herausforderungen umfasst. Angesichts dieser lobenswerten Arbeit wäre es überflüssig, hier eine ausführliche Analyse desselben Themas (KI) aus derselben Perspektive (Ethik) vorzunehmen. Stattdessen haben wir in diesem Dokument versucht, eine ergänzende Analyse bereitzustellen. Diese Leitlinien sollen die Überschneidungen zwischen den ethischen Empfehlungen der hochrangigen Expertengruppe für künstliche Intelligenz und dem durch die Datenschutz-Grundverordnung (DSGVO) geschaffenen Rechtsrahmen für Datenschutzfragen zu ermitteln.

Vor dem Start der Analyse sind jedoch einige Vorbemerkungen erforderlich. Erstens konzentriert sich dieser Bericht hauptsächlich auf KI-Entwickler: Unternehmen, die bereit sind, KI-Tools zu entwickeln. Diese Unternehmen werden zu Verantwortlichen, sobald sie mit der Verarbeitung personenbezogener Daten beginnen. In diesem Sinne sollten die Begriffe „Tool“, „Lösung“, „Modell“ und „Entwicklung“ im Rahmen dieser Analyse als synonym betrachtet werden.

Zweitens kann dieser Teil der Leitlinien nur im Zusammenhang mit dem gesamten Instrument (den Leitlinien) verstanden werden. Es gibt mehrere Konzepte, die in diesem Dokument nicht untersucht werden, weil sie in anderen Abschnitten der Leitlinien behandelt werden. Wir haben gegebenenfalls auf diese verwiesen (die Verweise sind gelb hervorgehoben). In Zukunft werden alle Abschnitte auf einer Website zur Verfügung stehen, wodurch die Leitlinien wesentlich benutzerfreundlicher sein werden.

Die einzelnen Abschnitte dieses Dokuments enthalten nur das, was wir für unbedingt notwendig erachten, um die Kernargumente der betreffenden ethischen und rechtlichen Fragen zu verstehen. Wir haben Checklisten eingefügt, damit die Verantwortlichen leichter erkennen können, ob sie die Themen richtig angehen, und einen Abschnitt mit weiterführender Literatur, die Leser bei Bedarf konsultieren können. Fußnoten geben weitere Hinweise auf die wichtigsten Aussagen.

Schließlich wurde dieses Dokument so strukturiert, dass es leicht verständlich ist. Wie bereits erwähnt, basiert es auf den sieben, von der hochrangigen Expertengruppe für künstliche Intelligenz beschriebenen Anforderungen. Wir beginnen unsere Analyse mit einer kurzen Beschreibung der zentralen ethischen Fragen und fassen dann die wichtigsten ethischen Probleme und Herausforderungen im Zusammenhang mit ihnen zusammen. Diese dienen als gemeinsame Grundlage und Kontext, auf der bzw. dem unsere rechtliche Analyse aufbaut.

 

Quellenangaben


1Autor des gesamten Dokuments mit Ausnahme der Abschnitte 2 und 7 dieses Teils.

2Autor von Abschnitt 2 dieses Teils.

3Autor von Abschnitt 7 dieses Teils.

4Die hochrangige Expertengruppe für künstliche Intelligenz wurde von der Europäischen Kommission 2018 eingesetzt. Ihr allgemeines Ziel ist die Unterstützung der Umsetzung der europäischen Strategie für künstliche Intelligenz. Dazu gehört auch die Ausarbeitung von Empfehlungen für die künftige politische Entwicklung und für ethische, rechtliche und gesellschaftliche Fragen im Zusammenhang mit der künstlichen Intelligenz, einschließlich sozioökonomischer Herausforderungen. Verfügbar unter: https://ec.europa.eu/digital-single-market/en/high-level-expert-group-artificial-intelligence (abgerufen am 15. Mai 2020).

5Hochrangige Expertengruppe für künstliche Intelligenz (2019), Ethik-Leitlinien für eine vertrauenswürdige KI, Seite 15 ff. Brüssel, Europäische Kommission, Brüssel. Verfügbar unter: https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai (abgerufen am 15. Mai 2020).

6SHERPA (2019) Guidelines for the ethical use of AI and big data systems. SHERPA, www.project-sherpa.eu/wp-content/uploads/2019/12/use-final.pdf (abgerufen am 5. Mai 2020). – Hochrangige Expertengruppe für künstliche Intelligenz,

Skip to content