Este primer requisito para el desarrollo de la IA engloba tres principios fundamentales diferentes: [2]
- Derechos fundamentales. Los sistemas de IA pueden permitir u obstaculizar los derechos fundamentales. En tales circunstancias, debe realizarse una evaluación del impacto sobre los derechos fundamentales antes de desarrollar una solución de IA.
- Agencia humana. Los usuarios de sistemas de IA deben poder tomar decisiones informadas y autónomas al respecto. Los sistemas de IA deben ayudar a las personas a tomar decisiones mejores y más informadas de acuerdo con sus objetivos. El principio general de autonomía del usuario debe ser fundamental para la funcionalidad del sistema de IA. Por ejemplo, los interesados deben ser conscientes de que sus datos podrían utilizarse para la elaboración de perfiles, si esto pudiera ocurrir. Además, debe respetarse su derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado, cuando éste produzca efectos jurídicos o efectos significativos similares. Sin embargo, hay que tener en cuenta que esto, en general, se refiere a fines comerciales. Por lo tanto, no se aplica lo mismo a las Fuerzas y Cuerpos de Seguridad que tratan datos personales sobre una base jurídica y pueden utilizar la IA para luchar eficazmente contra distintos delitos y para cumplir las obligaciones estipuladas por la ley.
- Supervisión humana. La supervisión humana ayuda a garantizar que un sistema de IA no socave la autonomía humana ni cause otros efectos adversos. Esta supervisión puede lograrse a través de diversos mecanismos de gobernanza. En igualdad de condiciones, cuanto menor sea la supervisión que un ser humano pueda ejercer sobre un sistema de IA, más exhaustivas serán las pruebas y más estricta la gobernanza.
- Grupo de expertos de alto nivel sobre IA (2019) Ethics guidelines for trustworthy AI, p.15 y ss. Bruselas, Comisión Europea, Bruselas. Disponible en: https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai (consultado el 15 de mayo de 2020). ↑
- Ibídem, p. 15. ↑