Selon le considérant 71 du RGPD, “le responsable du traitement devrait utiliser des procédures mathématiques ou statistiques appropriées pour le profilage, mettre en œuvre des mesures techniques et organisationnelles appropriées pour garantir, en particulier, que les facteurs qui entraînent des inexactitudes dans les données à caractère personnel sont corrigés et que le risque d’erreurs est réduit au minimum”, sécuriser les données à caractère personnel d’une manière qui tienne compte des risques potentiels qu’elles comportent pour les intérêts et les droits de la personne concernée et qui prévienne, entre autres, les effets discriminatoires à l’égard des personnes physiques sur la base de l’origine raciale ou ethnique, des opinions politiques, de la religion ou des convictions, de l’appartenance syndicale, du statut génétique ou de santé ou de l’orientation sexuelle, ou qui aboutissent à des mesures ayant un tel effet.”

Ce paragraphe est strictement lié à l’article 21 de la Charte des droits fondamentaux de l’UE, qui stipule que “[t]oute discrimination fondée notamment sur le sexe, la race, la couleur, les origines ethniques ou sociales, les caractéristiques génétiques, la langue, la religion ou les convictions, les opinions politiques ou toute autre opinion, l’appartenance à une minorité nationale, la fortune, la naissance, un handicap, l’âge ou l’orientation sexuelle est interdite”. Parallèlement, l’EDPB fournit une définition de la loyauté dans ses lignes directrices sur la protection des données dès la conception et par défaut, qui stipulent que “[l]a loyauté est un principe général qui exige que les données à caractère personnel ne soient pas traitées d’une manière qui soit préjudiciable, discriminatoire, inattendue ou trompeuse pour la personne concernée”. ^[1]

La discrimination est donc une violation dramatique du principe de loyauté. Or, dans le domaine de l’IA, les biaisconstituent une menace redoutable contre ce principe, car ils peuvent conduire à la stigmatisation ou à la discrimination potentielle d’individus isolés ou de communautés entières. ^[2]

1. EDPB (2019) Lignes directrices 4/2019 sur l’article 25 Protection des données par conception et par défaut (version pour consultation publique). Conseil européen de la protection des données, Bruxelles. Disponible à l’adresse : https://edpb.europa.eu/our-work-tools/public-consultations-art-704/2019/guidelines-42019-article-25-data-protection-design_es (consulté le 20 mai 2020). ↑
2. Mittelstadt, B. et L. Floridi, L. (2016) ” The ethics of big data : current and foreseeable issues in biomedical context “, Science and Engineering Ethics 22(2) : 303-341. ↑