Cette exigence s’appuie sur trois grands principes différents : la traçabilité, l’explicabilité et la communication. ^[1]

Traçabilité

Les ensembles de données et les processus qui aboutissent à la décision du système d’IA, y compris ceux de la collecte et de l’étiquetage des données ainsi que les algorithmes utilisés, doivent être documentés selon la meilleure norme possible afin de permettre la traçabilité et d’accroître la transparence. Cela s’applique également aux décisions prises par le système d’IA. Cela permet d’identifier les raisons pour lesquelles une décision de l’IA était erronée, ce qui, à son tour, pourrait aider à prévenir de futures erreurs. La traçabilité facilite l’auditabilité ainsi que l’explicabilité.

Explicabilité

Il s’agit de la capacité à expliquer à la fois les processus techniques d’un système d’IA et les décisions humaines correspondantes (par exemple, les domaines d’application d’un système). L’explicabilité technique exige que les décisions prises par un système d’IA puissent être comprises et retracées par des êtres humains. En outre, il peut être nécessaire de faire des compromis entre l’amélioration de l’explicabilité d’un système (qui peut réduire sa précision) et l’augmentation de sa précision (au prix de l’explicabilité). Chaque fois qu’un système d’IA a un impact significatif sur la vie des gens, il devrait être possible d’exiger une explication appropriée du processus décisionnel du système d’IA. Cette explication devrait être fournie en temps utile et adaptée à l’expertise de la partie prenante concernée (par exemple, un profane, un régulateur ou un chercheur). En outre, des explications sur la mesure dans laquelle un système d’IA influence et façonne le processus de prise de décision de l’organisation, les choix de conception du système et la justification de son déploiement devraient être disponibles (assurant ainsi la transparence du modèle d’entreprise).

Communication

Les systèmes d’IA ne doivent pas se faire passer pour des humains auprès des utilisateurs ; les humains ont le droit d’être informés qu’ils interagissent avec un système d’IA. Cela implique que les systèmes d’IA doivent être identifiables en tant que tels. En outre, la possibilité de renoncer à cette interaction au profit d’une interaction humaine doit être prévue lorsque cela est nécessaire pour garantir le respect des droits fondamentaux. En outre, les capacités et les limites du système d’IA doivent être communiquées aux praticiens de l’IA ou aux utilisateurs finaux d’une manière adaptée au cas d’utilisation concerné. Cela pourrait englober la communication du niveau de précision du système d’IA, ainsi que de ses limites.

 

1. Ibid. ↑