Viele KI-Systeme werden mit Blick auf einen bestimmten Anwendungsfall entwickelt. Wie bereits erwähnt, kann sich dieser jedoch im Laufe der Zeit weiterentwickeln und sich langsam von den ursprünglichen Absichten der Entwickler entfernen. Daher ist es wichtig, die ursprünglichen Annahmen und Bedingungen, unter denen das KI-System eingesetzt werden sollte, klar zu dokumentieren. Erwartet das KI-System beispielsweise eine bestimmte Umgebung, oder enthält die Trainingsmenge bekannte Verzerrungen? Wenn ein KI-System öffentlich zugänglich ist, sollte auch die Zuverlässigkeit des Systems dokumentiert werden.

Neben der Zuverlässigkeit ist auch die Reproduzierbarkeit der Ergebnisse eines KI-Systems wichtig. Reproduzierbarkeit ist nicht nur eine wünschenswerte technische Eigenschaft eines KI-Systems (z. B. um die Ursache fehlerhafter Ergebnisse zu untersuchen), sondern auch eine wichtige Voraussetzung für Vertrauen. Wenn ein Ergebnis nicht reproduzierbar ist, kann seine Erklärbarkeit – und damit das Vertrauen in das KI-System – leiden.