L’un des principaux problèmes des systèmes IdO est qu’ils utilisent des données personnelles provenant de personnes autres que les utilisateurs finaux des appareils qui interagissent entre eux. En outre, ils fournissent souvent aux responsables du traitement de grands ensembles de données par le biais de l’agrégation de données recueillies auprès d’agents individuels. Ces circonstances brouillent en quelque sorte la relation entre le responsable du traitement et les personnes concernées. Les responsables du traitement ne savent tout simplement pas qui sont les personnes concernées qui fournissent certaines des données collectées par les dispositifs. Cela peut avoir des conséquences en termes de respect des normes de protection des données. Par exemple, il est difficile d’informer les personnes concernées du traitement si les responsables du traitement ne savent pas qui sont les personnes concernées. En effet, le scénario est difficile, puisque ces personnes concernées pourraient être identifiées, même si un effort raisonnable était fait.
Il est primordial que les employés clés aient une connaissance aussi complète que possible des implications juridiques de leur travail, afin d’éviter tout traitement de données illicite non souhaité ou, en général, tout manquement au règlement sur la protection des données. En outre, les employés et les autres parties prenantes doivent prendre conscience des conséquences éthiques et sociales découlant du traitement des données personnelles par des moyens technologiques. [1]
Les développeurs IdO doivent être en mesure de comprendre les implications de leur action, tant pour les individus que pour la société, et être conscients de leurs responsabilités en apprenant à faire preuve d’une attention et d’une vigilance continues.[2] Cela aidera les développeurs IdO à prendre correctement en compte les questions éthiques et juridiques. En ce sens, une formation optimale de tous les agents impliqués dans le projet (développeurs, programmeurs, codeurs, data scientists, ingénieurs, chercheurs, etc.) avant son démarrage pourrait être l’un des outils les plus efficaces pour économiser du temps et des ressources en termes de conformité aux réglementations sur la protection des données.
Ainsi, la mise en œuvre de programmes de formation de base comprenant au moins les principes fondamentaux de la Charte des droits fondamentaux (en particulier, en ce qui concerne le rôle de la vie privée en tant que catalyseur d’autres droits tels que la non-discrimination ou la liberté idéologique), les principes exposés à l’article 5 du RGPD, la nécessité d’une base juridique pour le traitement (y compris les contrats entre les parties), les conséquences pratiques des principes de protection des données dès la conception et par défaut, et autres. Des sources utiles sont par exemple disponibles auprès de l’Agence des droits fondamentaux[3] , de l’IEEE et de ses lignes directrices en matière d’éthique[4] , et de la Commission européenne[5] . Si la formation n’est pas possible, la mise en œuvre des conseils d’un expert externe dès le début du projet pourrait être une alternative acceptable.
- CNIL (2017) Comment l’humain peut-il garder la main ? Les questions éthiques soulevées par les algorithmes et l’intelligence artificielle. Commission nationale de l’informatique et des libertés, Paris, p.55. Disponible sur : www.cnil.fr/sites/default/files/atoms/files/cnil_rapport_ai_gb_web.pdf (consulté le 15 mai 2020). ↑
- Ibid. p.55. ↑
- https://fra.europa.eu/en/publication/2018/handbook-european-data-protection-law-2018-edition et ↑
- https://ethicsinaction.ieee.org/ ↑
- https://ec.europa.eu/justice/smedataprotect/index_en.htm ↑