De nombreux systèmes d’IA sont conçus avec un cas d’utilisation spécifique en tête. Cependant, comme on l’a dit, il peut évoluer avec le temps et s’éloigner lentement des intentions initiales des concepteurs. Il est donc important de documenter clairement les hypothèses initiales et les conditions dans lesquelles le système d’IA était destiné à être utilisé. Par exemple, le système d’IA s’attend-il à un environnement spécifique, ou l’ensemble d’apprentissage contient-il des biais connus ? Si un système d’IA est accessible au public, la documentation sur la fiabilité du système devrait l’être également.

En plus de la fiabilité, la reproductibilité des résultats d’un système d’IA est importante. Non seulement la reproductibilité est une propriété technique souhaitable d’un système d’IA (par exemple, pour rechercher la raison de résultats erronés), mais c’est aussi une condition préalable importante pour la confiance. Si un résultat ne peut être reproduit, son explicabilité – et donc la confiance dans le système d’IA – peut en souffrir.