Diese Anforderung umfasst drei unterschiedliche Hauptgrundsätze, und zwar:[1]
- Schutz der Privatsphäre und Datenschutz. KI-Systeme müssen den Schutz der Privatsphäre und den Datenschutz in allen Phasen des Lebenszyklus eines Systems gewährleisten. Dies umfasst auch anfänglich vom Benutzer angegebene Informationen sowie die im Verlauf der Interaktion mit dem System über den Benutzer erzeugten Informationen (z. B. Ergebnisse, die das KI-System für bestimmte Benutzer erzeugt oder die Reaktion von Benutzern auf bestimmte Empfehlungen). Damit die Menschen Vertrauen in die Datenverarbeitung haben können, muss sichergestellt sein, dass die über sie gesammelten Daten nicht dazu verwendet werden, sie unrechtmäßig oder unfair zu diskriminieren.
- Qualität und Integrität der Daten. Die Qualität der verwendeten Datensätze ist für die Leistungsfähigkeit von KI-Systemen von entscheidender Bedeutung. Bei der Erfassung der Daten können sozial bedingte Verzerrungen, Ungenauigkeiten, Fehler und andere Mängel auftreten. Solche Probleme müssen vor dem Training mit einem bestimmten Datensatz behoben werden. Darüber hinaus muss die Integrität der Daten gewährleistet sein. Die Eingabe schädlicher Daten in ein KI-System kann sein Verhalten verändern, insbesondere bei selbstlernenden Systemen. Die verwendeten Prozesse und Datensätze müssen in allen Schritten wie Planung, Training, Erprobung und Einsatz getestet und dokumentiert werden. Dies sollte auch für KI-Systeme gelten, die nicht intern entwickelt, sondern von außerhalb erworben werden.
- Datenzugriff. In jeder Organisation, die mit personenbezogenen Daten umgeht,müssen interne Dokumente/Richtlinien vorhanden sein, die festlegen, wer und unter welchen Bedingungen auf personenbezogene Daten zugreifen darf, einschließlich organisatorischer und technischer Maßnahmen zur Zugangskontrolle. Nur entsprechend qualifiziertes Personal sollte auf die Daten zugreifen dürfen, wenn die Kompetenz und die Notwendigkeit dafür gegeben sind. Außerdem müssen alle Mitarbeiter, denen Zugang gewährt wird, eine Vertraulichkeitserklärung unterzeichnen.
- Ibid., Seite15 ff. ↑