Diese erste Anforderung für die Entwicklung von KI umfasst drei unterschiedliche Hauptgrundsätze:[1]
- Grundrechte. KI-Systeme können für Grundrechte entweder förderlich oder hinderlich sein. In solchen Situationen sollte eine Folgenabschätzung der Auswirkungen auf die Grundrechte vor der Entwicklung einer KI-Lösung vorgenommen werden.
- Vorrang menschlichen Handelns. Die Benutzer von KI-Systemen sollten in der Lage sein, informierte, autonome Entscheidungen zu treffen. KI-Systeme sollten die einzelnen Menschen dabei unterstützen, im Einklang mit ihren eigenen Zielen bessere, fundiertere Entscheidungen zu treffen. Die Richtschnur für das Funktionieren von KI-Systemen muss der Grundsatz der Selbstbestimmung des Nutzers sein. Die betroffenen Personen müssen beispielsweise gegebenenfalls wissen, dass ihre Daten zum Profiling verwendet werden könnten. Zudem muss das Recht einer Person gewahrt werden, nicht einer ausschließlich auf einer automatisierten Verarbeitung beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Es ist jedoch zu beachten, dass sich dies im Allgemeinen auf kommerzielle Zwecke bezieht. Dies gilt also nicht für Strafverfolgungsbehörden, die personenbezogene Daten auf gesetzlicher Grundlage verarbeiten und KI zur wirksamen Bekämpfung verschiedener Straftaten und zur Erfüllung der gesetzlich vorgeschriebenen Pflichten einsetzen können.
- Vorrang menschlicher Aufsicht. Die menschliche Aufsicht hilft, dafür zu sorgen, dass ein KI-System die menschliche Autonomie nicht untergräbt oder sich sonst nachteilig auswirkt. Die Aufsicht kann durch verschiedene Lenkungs- und Kontrollmechanismen erreicht werden. Für ein ansonsten gleiches System muss gelten: Je weniger Aufsicht ein Mensch über ein KI-System ausüben kann, desto ausführlicher muss es zuvor getestet werden und desto strenger muss die Lenkung und Kontrolle sein.
- Ibid., Seite 15. ↑