Este requisito incorpora tres principios principales diferentes, a saber: [1]
- Privacidad y protección de datos. Los sistemas de IA deben garantizar la privacidad y la protección de datos durante todo el ciclo de vida del sistema. Esto incluye la información proporcionada inicialmente por el usuario, así como la información generada sobre el usuario en el curso de su interacción con el sistema (por ejemplo, los resultados que el sistema de IA generó para usuarios específicos o cómo respondieron los usuarios a determinadas recomendaciones). Para que las personas puedan confiar en el proceso de recopilación de datos, debe garantizarse que los datos recopilados sobre ellas no se utilizarán para discriminarlas ilegal o injustamente.
- Calidad e integridad de los datos. La calidad de los conjuntos de datos utilizados es primordial para el rendimiento de los sistemas de IA. Cuando se recopilan los datos, pueden contener sesgos, imprecisiones, errores y fallos construidos socialmente. Esto debe abordarse antes del entrenamiento con cualquier conjunto de datos. Además, debe garantizarse la integridad de los datos. Introducir datos maliciosos en un sistema de IA puede cambiar su comportamiento, sobre todo en los sistemas de autoaprendizaje. Los procesos y conjuntos de datos utilizados deben probarse y documentarse en cada paso, como la planificación, la formación, las pruebas y el despliegue. Esto también debe aplicarse a los sistemas de IA que no se han desarrollado internamente, sino que se han adquirido en otro lugar.
- Acceso a los datos. En cualquier organización que maneje datos personales de individuos (deben existir documentos/políticas internas que estipulen quién y en qué condiciones puede acceder a los datos personales, incluidas medidas organizativas y técnicas de control de acceso. Sólo el personal debidamente cualificado con la competencia y la necesidad de acceder a los datos personales de los individuos debe estar autorizado a hacerlo. Además, todo el personal al que se conceda acceso debe firmar una declaración de confidencialidad.
- Ibídem, p. 15 y ss. ↑