„Eine entscheidende Komponente bei der Verwirklichung einer vertrauenswürdigen KI ist die technische Robustheit, die mit dem Grundsatz der Schadensverhütung eng verbunden ist. Die technische Robustheit macht es erforderlich, dass KI-Systeme mit einem präventiven Herangehen an Risiken und so entwickelt werden, dass sie sich zuverlässig gemäß ihrer Bestimmung verhalten, bei gleichzeitiger Minimierung von unbeabsichtigtem und unerwartetem Schaden und unter Verhinderung von inakzeptablem Schaden. Dies sollte auch für potenziell veränderte Betriebsumgebungen oder die Anwesenheit von anderen (menschlichen oder künstlichen) wirkenden Kräften gelten, die gegebenenfalls in feindlicher Art und Weise mit dem System interagieren. Darüber hinaus sollte die körperliche und geistige Unversehrtheit von Menschen gewährleistet sein.“
– Hochrangige Expertengruppe für künstliche Intelligenz[1]
Ethische Grundsätze und Bestimmungen der DSGVO
Die hochrangige Expertengruppe für künstliche Intelligenz unterteilt die Anforderungen an die technische Robustheit und Sicherheit in vier Teilkomponenten: (1) Widerstandsfähigkeit gegen Angriffe und Sicherheitsverletzungen; (2) ein Auffangplan und allgemeine Sicherheit; (3) Präzision; sowie (4) Zuverlässigkeit und Reproduzierbarkeit.
Zur leichteren Bezugnahme spiegelt dieser Abschnitt diese Struktur wider, wobei diese Unterkomponenten mit den rechtlichen (DSGVO-) Anforderungen und Empfehlungen verbunden werden. Dies ist wichtig, denn während die DSGVO-Anforderungen im Allgemeinen nur bei Verarbeitung personenbezogener Daten gelten, sind viele praktische KI-Systeme darauf ausgelegt, ein personalisiertes Ergebnis zu erzielen (z. B. Empfehlungssysteme). Sie müssen daher irgendwann personenbezogene Daten verarbeiten.
- Hochrangige Expertengruppe für künstliche Intelligenz (2019), Ethik-Leitlinien für eine vertrauenswürdige KI, Seite 16 ff. Europäische Kommission, Brüssel. Verfügbar unter: https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai (abgerufen am 28. Mai 2020). ↑