Aunque responsabilidad proactiva es un objetivo necesario y la asignación de responsabilidades a un encargado concreto es absolutamente necesaria, los responsables del tratamiento deben ser siempre conscientes de que el funcionamiento de la IA puede dificultar enormemente la supervisión de un sistema. Tal y como declaró la CNIL, “la cuestión de dónde se puede establecer la responsabilidad y la toma de decisiones debe abordarse de una manera ligeramente diferente cuando se trata de sistemas de aprendizaje automático”. Por lo tanto, es mejor que los controladores piensen más en términos de una cadena de responsabilidad, desde el diseñador del sistema hasta su usuario, pasando por la persona que introducirá los datos de entrenamiento en este sistema. Este último funcionará de forma diferente en función de esos datos de entrada.

A este respecto, cabe mencionar el chatbot Tay de Microsoft. Fue cerrado apenas veinticuatro horas después de su lanzamiento cuando, aprendiendo de las publicaciones de los usuarios de las redes sociales, había empezado a tuitear comentarios racistas y sexistas por su cuenta. No hace falta decir que determinar la parte exacta de responsabilidad entre estos diferentes eslabones de la cadena puede ser una tarea laboriosa.