“Un componente crucial para lograr una IA digna de confianza es la solidez técnica, que está estrechamente vinculada al principio de prevención de daños. La solidez técnica exige que los sistemas de IA se desarrollen con un enfoque preventivo de los riesgos y de manera que se comporten de forma fiable según lo previsto, minimizando al mismo tiempo los daños no intencionados e inesperados y evitando los daños inaceptables. Esto también debe aplicarse a los posibles cambios en su entorno operativo o a la presencia de otros agentes (humanos y artificiales) que puedan interactuar con el sistema de forma adversa. Además, debe garantizarse la integridad física y mental de los seres humanos”.
– Grupo de Expertos de Alto Nivel sobre IA[1]
Principios éticos y disposiciones GDPR
El Grupo de Expertos de Alto Nivel sobre IA divide el requisito de solidez y seguridad técnica en cuatro subcomponentes: (1) resistencia a los ataques y seguridad; (2) plan de emergencia y seguridad general; (3) precisión; y (4) fiabilidad y reproducibilidad.
Para facilitar las referencias, esta sección refleja esta estructura, al tiempo que conecta estos subcomponentes con los requisitos y recomendaciones legales (GDPR). Esto es importante, porque mientras que los requisitos del GDPR generalmente solo se aplican cuando se procesan datos personales, muchos sistemas prácticos de IA están diseñados para producir un resultado personalizado (es decir, sistemas de recomendación), y por lo tanto tienen que procesar datos personales en algún momento.
- Grupo de expertos de alto nivel sobre IA (2019) Ethics guidelines for trustworthy AI, p.16 y ss. Comisión Europea, Bruselas. Disponible en: https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai (consultado el 28 de mayo de 2020). ↑