Cette exigence englobe trois grands principes différents, à savoir : [1]
- Protection de la vie privée et des données. Les systèmes d’IA doivent garantir la protection de la vie privée et des données tout au long du cycle de vie du système. Cela inclut les informations fournies initialement par l’utilisateur, ainsi que les informations générées sur l’utilisateur au cours de son interaction avec le système (par exemple, les résultats que le système d’IA a générés pour des utilisateurs spécifiques ou la façon dont les utilisateurs ont répondu à des recommandations particulières). Pour que les personnes puissent avoir confiance dans le processus de collecte des données, il faut s’assurer que les données recueillies à leur sujet ne seront pas utilisées pour les discriminer de manière illégale ou injuste.
- Qualité et intégrité des données. La qualité des ensembles de données utilisés est primordiale pour les performances des systèmes d’IA. Lorsque les données sont recueillies, elles peuvent contenir des biais, des inexactitudes, des erreurs et des fautes d’origine sociale. Il faut y remédier avant de s’entraîner avec un ensemble de données donné. En outre, l’intégrité des données doit être garantie. L’introduction de données malveillantes dans un système d’IA peut modifier son comportement, en particulier avec les systèmes d’auto-apprentissage. Les processus et les ensembles de données utilisés doivent être testés et documentés à chaque étape, comme la planification, la formation, les tests et le déploiement. Cela devrait également s’appliquer aux systèmes d’IA qui n’ont pas été développés en interne mais acquis ailleurs.
- Accès aux données. Dans toute organisation qui traite des données à caractère personnel, des documents/politiques internes stipulant qui peut accéder aux données à caractère personnel (et dans quelles conditions), y compris les mesures organisationnelles et techniques de contrôle d’accès, doivent être en place. Seul le personnel dûment qualifié ayant la compétence et le besoin d’accéder aux données personnelles des individus doit être autorisé à le faire. En outre, tout le personnel auquel l’accès est accordé doit signer une déclaration de confidentialité.
- Ibid. , p.15 et ff. ↑