Si l’algorithme est mis en œuvre par un tiers, les développeurs de l’IA devraient communiquer les résultats du système de validation et de suivi employé et proposer leur collaboration pour continuer à suivre la validation des résultats. Il serait également souhaitable d’établir ce type de coordination avec les tiers auprès desquels ils acquièrent des bases de données ou tout autre composant pertinent dans le cycle de vie du système. Si cela implique le traitement de données par un tiers, le responsable du traitement doit s’assurer que l’accès est fourni dans le cadre d’une base légale.
Il est nécessaire d’offrir à l’utilisateur final des informations en temps réel sur les valeurs de précision et/ou de qualité des informations inférées à chaque étape (voir la section “Principe de précision” dans les “Principes” de la partie II). Lorsque les informations inférées n’atteignent pas les seuils de qualité minimum, il doit être explicitement indiqué que ces informations n’ont aucune valeur.[1] Cette exigence implique souvent que les développeurs doivent fournir des informations détaillées sur les étapes de formation et de validation. Les informations sur les jeux de données utilisés à ces fins sont particulièrement importantes. Dans le cas contraire, l’utilisation de la solution risque d’apporter des résultats décevants aux utilisateurs finaux, qui se retrouvent à spéculer sur la cause.
- AEPD (2020) Adecuación al RGPD de tratamientos que incorporan Inteligencia Artificial. Una introducción. Agencia Espanola Proteccion Datos, Madrid, p.35. Disponible sur : www.aepd.es/sites/default/files/2020-02/adecuacion-rgpd-ia.pdf (consulté le 15 mai 2020). ↑