Molti sistemi di IA sono progettati tenendo conto di uno specifico caso d’uso. Tuttavia, come si è detto, questo può evolversi nel tempo e allontanarsi lentamente dalle intenzioni originali dei progettisti. È, quindi, importante documentare chiaramente i presupposti e le condizioni iniziali in cui si intendeva utilizzare il sistema di IA. Ad esempio, il sistema di IA si aspetta un determinato ambiente o il set di addestramento contiene distorsioni sconosciute? Se un sistema di IA è accessibile al pubblico, deve esserlo anche la documentazione relativa all’affidabilità del sistema.

Oltre all’affidabilità, è importante la riproducibilità dei risultati di un sistema di IA. La riproducibilità non è solo una caratteristica tecnica auspicabile in un sistema di IA (ad es., per studiare le cause dei risultati difettosi), ma è anche un presupposto importante per la fiducia. Se un risultato non può essere riprodotto, la sua spiegabilità -e quindi la fiducia nel sistema di IA- può essere compromessa.