“La robustesse technique, qui est étroitement liée au principe de prévention des dommages, est un élément crucial de la réalisation d’une IA digne de confiance. La robustesse technique exige que les systèmes d’IA soient développés selon une approche préventive des risques et de manière à ce qu’ils se comportent de manière fiable comme prévu, tout en minimisant les dommages involontaires et inattendus, et en empêchant les dommages inacceptables. Cela devrait également s’appliquer aux changements potentiels de leur environnement de fonctionnement ou à la présence d’autres agents (humains et artificiels) susceptibles d’interagir avec le système de manière contradictoire. En outre, l’intégrité physique et mentale des humains doit être assurée.”
– Groupe d’experts de haut niveau sur l’IA[1]
Principes éthiques et dispositions du RGPD
Le groupe d’experts de haut niveau sur l’IA divise l’exigence de robustesse technique et de sécurité en quatre sous-composantes : (1) résilience aux attaques et sécurité ; (2) plan de repli et sécurité générale ; (3) précision ; et (4) fiabilité et reproductibilité.
Pour faciliter les références, cette section reprend cette structure, tout en reliant ces sous-composantes aux exigences et recommandations légales (RGPD). Ce point est important, car si les exigences du RGPDne s’appliquent généralement qu’au traitement des données personnelles, de nombreux systèmes d’IA pratiques sont conçus pour produire un résultat personnalisé (par exemple, les systèmes de recommandation) et doivent donc traiter des données personnelles à un moment donné.
- Groupe d’experts de haut niveau sur l’IA (2019) Lignes directrices en matière d’éthique pour une IA digne de confiance, p.16 et suivantes. Commission européenne, Bruxelles. Disponible sur : https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai (consulté le 28 mai 2020). ↑