Verzerrungen sind eines der Hauptprobleme bei der Nutzung von IKT-Geräten und -Systemen, ein Problem, das dem Grundsatz der Verarbeitung nach Treu und Glauben zuwiderläuft. Im Falle von Geräten, die auf Standort- und/oder Begegnungsdaten basieren, können sich Verzerrungen aus mindestens zwei verschiedenen Situationen ergeben:
- Verzerrungen, die durch ein KI-System entstehen, das mit den Ortungsgeräten oder -systemen interagiert. Manchmal enthalten Ortungsgeräte oder -systeme KI-Tools oder interagieren mit ihnen (siehe den Teil dieser Leitlinien über KI-Systeme). In diesem Fall sollten die Entwickler besonders darauf achten, dass die Funktion des Ortungsgeräts oder -systems nicht verzerrt wird. Zu diesem Zweck müssen sie eine Reihe von Maßnahmen ergreifen, die in dem Teil dieser Leitlinien über KI-Systemebeschrieben werden.
- Verzerrungen, die durch die gesammelten Daten entstehen. Diese Art von Verzerrung ist besonders wahrscheinlich, wenn das IKT-Tool Informationen auf der Grundlage von Daten bereitstellen soll, die von der gesamten Bevölkerung erhoben wurden. In diesem Zusammenhang ist zu bedenken, dass je nach Herkunft der aggregierten Daten der Grad der sozialen Repräsentation sehr wahrscheinlich ungenau ist. Wie die Forschung zu standortbezogenen Medien gezeigt hat, spielen Kontext und Marginalisierung bei standortbezogenen Daten eine Rolle.[1] Dies kann Problemen der Ungleichheit schaffen, da einige soziale Schichten (insbesondere diejenigen, die die Geräte nicht nutzen oder denen die spezifischen Fähigkeiten fehlen, die eine Datenerhebung ermöglichen) bei der Analyse und der anschließenden Entscheidungsfindung unterrepräsentiert sind. [2] Dies könnte dazu führen, dass ganze Bevölkerungsgruppen unberücksichtigt bleiben und andere falsch dargestellt werden, was nicht nur einen verzerrten und ungerechten Einsatz von Ressourcen zur Folge hat – beispielsweise zugunsten der reichsten Viertel – sondern auch aus Sicht der öffentlichen Politik ineffektiv ist.[3] Natürlich kann eine falsche Darstellung auch zu Verzerrungen bei der öffentlichen Ordnung und bei polizeilichen Maßnahmen führen, wodurch beispielsweise einkommensschwache Gruppen benachteiligt werden. Die Entwickler von Ortungsgeräten oder -systemen sollten sich bemühen, diese Art von Verzerrung zu vermeiden, indem sie entweder Geräte für diejenigen bereitstellen, die sonst ausgegrenzt würden, oder indem sie ergänzende Informationen integrieren, die den Fehler korrigieren. Lässt sich dies nicht vermeiden, sollten sie das Vorhandensein der Verzerrung dokumentieren, damit diejenigen, die dank des entwickelten Mechanismus Entscheidungen treffen müssen, sich dessen bewusst sind.
| Checkliste:[4]
Der Verantwortliche hat Methoden eingeführt, um zu messen, ob das Tool eine inakzeptble Anzahl verzerrter Vorhersagen macht. Der Verantwortliche hat eine Reihe von Maßnahmen ergriffen, um die Genauigkeit des Tools zu erhöhen. Der Verantwortliche hat Maßnahmen ergriffen, um zu beurteilen, ob zusätzliche Daten erforderlich sind, z. B. um Verzerrungen zu beseitigen. Der Verantwortliche hat überprüft, welcher Schaden entstehen würde, wenn das Tool verzerrte Vorhersagen macht. |
Quellenangaben
1Graham, M., Zook, M. (2013). Augmented realities and uneven geographies: Exploring the geolinguistic contours of the web. Environment and Planning A, 45, 77–99. ↑
2Frith J, Saker M. It Is All About Location: Smartphones and Tracking the Spread of COVID-19. Social Media + Society. Juli 2020. doi:10.1177/2056305120948257 ↑
3Jay Stanley und Jennifer Stisa Granick, The Limits of Location Tracking in an Epidemic, ACLU Whitepaper, 8. April 2020, unter: https://www.aclu.org/report/aclu-white-paper-limits-location-tracking-epidemic?redirect=aclu-white-paper-limits-location-tracking-epidemic ↑
4Diese Checkliste wurde anhand der von der hochrangigen Expertengruppe für künstliche Intelligenz (2019) (Ethik-Leitlinien für eine vertrauenswürdige KI) ausgearbeitete Liste erstellt und angepasst. Europäische Kommission, Brüssel. Verfügbar unter: https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai (abgerufen am 20. Mai 2020). ↑