Los desarrolladores de IA deben saber desde el principio qué se espera que haga la herramienta. Cuanto más imprecisas sean estas expectativas, más difícil será determinar los fines precisos que se persiguen con el tratamiento (véase el subapartado “Requisitos previos a la licitud: fines explícitos” de la sección “Licitud, lealtad y transparencia”). Si tenemos en cuenta que los responsables del tratamiento deben hacer explícitas las finalidades del tratamiento, es decir, “reveladas, explicadas o expresadas de forma inteligible”, es muy recomendable que las expectativas sean precisas.
Además, para decidir el nivel de precisión predictiva que se espera para considerar que el proyecto tiene éxito, es esencial evaluar la cantidad de datos que se necesitarán para desarrollar la solución de IA o la naturaleza de esos datos. El nivel de predictibilidad o precisión del algoritmo, los criterios de validación para probarlo, la cantidad máxima o la calidad mínima de los datos que serán necesarios para utilizarlo en el mundo real, etc., son características fundamentales de un desarrollo de IA. Estas decisiones clave deben considerarse desde la primera etapa del ciclo de vida de la solución. Esto será de gran ayuda para aplicar una política de protección de datos desde el diseño.
Así, el desarrollador de IA debe fijar umbrales aceptables de falsos positivos/negativos o rangos, dependiendo del caso de uso y luego realizar un balance de utilidad. El desarrollador de IA debe ser consciente de que la determinación del nivel de precisión esperado está claramente vinculada a la cantidad de datos necesarios. Por ejemplo: no es lo mismo preparar un producto para la sanidad que para las recomendaciones de series de televisión. A su vez, dentro del sector sanitario, tampoco es lo mismo desarrollar una herramienta capaz de realizar un primer triaje (es decir, recomendar si debe intervenir un médico de atención primaria o un especialista) o una solución que pretenda apoyar a los radiólogos en el diagnóstico. Dependiendo de lo que se pretenda hacer con el dispositivo, se adoptarán mayores o menores requisitos de precisión.
Si se puede alcanzar un nivel de precisión aceptable utilizando una cantidad de datos personales considerablemente menor que la que requiere un nivel superior, debería considerarse seriamente esta posibilidad. Además, los desarrolladores de IA deben tener en cuenta que cualquier aumento marginal en términos de precisión de la predicción requiere a veces un aumento significativo de la cantidad de datos personales necesarios. Por lo tanto, si están considerando una modificación fundamental en el nivel de precisión de la predicción, deben considerar cuidadosamente si esto casa bien con el principio de minimización de datos.
| Cuadro 12: Algoritmo de diagnóstico de RX
Se podría diseñar un algoritmo de IA para diagnosticar la neumonía. Sin embargo, este objetivo podría alcanzarse de diferentes maneras. La más sencilla implicaría exclusivamente el uso de imágenes radiográficas. No obstante, también podría ser interesante introducir datos relacionados con patologías anteriores; la edad o el sexo, por ejemplo. Además, se podría pensar en utilizar datos como los hábitos alimentarios, el código postal, los hábitos deportivos, etc. Podría ocurrir que al añadir muchas características nuevas al modelo aumentara su precisión de forma significativa. Sin embargo, también puede ocurrir que esto no suceda. El desarrollador debe sopesar si la introducción de datos adicionales (aparte de las imágenes radiográficas, por ejemplo), proporciona diagnósticos con un nivel suficiente de aumento de la precisión para justificar su uso. Esto puede ser difícil de evaluar de antemano, pero al menos la fase de formación debería aclarar esta cuestión. Si el aumento de la precisión no justifica un uso desproporcionado de los datos personales, debería evitarse. |