Verzerrungen führen zu Vorurteilen und zur Diskriminierung bestimmter Gruppen oder Personen. Schaden kann auch durch die absichtliche Ausnutzung von (Verbraucher)-Vorurteilen oder durch unlauteren Wettbewerb entstehen, z. B. durch die Vereinheitlichung von Preisen durch Absprachen oder einen intransparenten Markt. Die Verwendung von Daten, die über soziale Netzwerke erhoben wurden, könnte zu einer Verschärfung einer solchen Situation beitragen, vor allem durch den Aufbau verzerrter Datensätze. Dies könnte zum Beispiel durch eine unzureichende Erfassung der von den betroffenen Personen produzierten Daten geschehen. „Daten aus sozialen Medien können schwer zu verifizieren sein – Nutzer können in Bezug auf ihr Alter, ihren Wohnort, ihren Beruf oder eine Reihe anderer Merkmale lügen. Forscher müssen sich dieser Problematik bewusst sein und gegebenenfalls auf diese Schwierigkeiten eingehen. Aufgrund der Ungleichheiten beim Zugang zum Internet ist es nicht ratsam, die Nutzer als „allgemeine Öffentlichkeit“ zu verstehen. Forscher sollten sich zudem überlegen, wie sie die Vielfalt (wo relevant) in ihrer Stichprobe fördern können.“[1]Es kann auch vorkommen, dass auf Rückschlüssen erzeugte oder abgeleitete Daten aufgrund ihrer eigenen technischen Probleme zu solchen Verzerrungen führen. Wenn diese verzerrten Daten ein Profiling oder die automatisierte Entscheidungsfindung fördern, könnte dies inakzeptable soziale Folgen haben. Wenn die Forschung den Einsatz von KI beinhaltet, erhöht sich natürlich das Risiko von Verzerrungen (siehe Unterabschnitt „Rechtmäßigkeit, Verarbeitung nach Treu und Glauben und Transparenz“, Abschnitt „Hauptkonzepte“des allgemeinen Teils dieser Leitlinien).
Um ein solches Szenario zu vermeiden, ist eine kritische Bewertung der Herkunft der Daten erforderlich. Zu diesem Zweck sollten organisatorische Maßnahmen ergriffen werden, um die Richtigkeit und Zuverlässigkeit der erhobenen Daten zu gewährleisten, wobei letztlich das Recht der Nutzer auf Zurückhaltung privater Informationen gewahrt bleiben muss (z. B. die Bestätigung, ob ein Datensatz richtig ist oder nicht). Darüber hinaus ist die Durchführung eines Audits zur Aufdeckung von Verzerrungen in den Rohdaten oder in den auf Rückschlüssen erzeugten oder abgeleiteten Datensätzen erforderlich, insbesondere wenn die Verantwortlichen Datensätze verwenden, die über soziale Netzwerke erstellt wurden.
Quellenangaben
1Universität York, Guidelines for the Use of Social Media Data in Research, unter: https://www.york.ac.uk/staff/research/governance/research-policies/social-media-data-use-research/ ↑