Implantar un programa de formación en cuestiones éticas y jurídicas para los desarrolladores de IA
Home » IA » IA: el proceso paso a paso » Comprensión del negocio » Implantar un programa de formación en cuestiones éticas y jurídicas para los desarrolladores de IA

Esta acción es uno de los consejos más importantes que hay que tener en cuenta desde el primer momento del desarrollo de un negocio de IA. Es probable que los diseñadores de algoritmos (desarrolladores, programadores, codificadores, científicos de datos, ingenieros), que ocupan el primer eslabón de la cadena algorítmica, no sean conscientes de las implicaciones éticas y legales de sus acciones. Además, uno de los principales problemas que plantea la IA es que generalmente utiliza datos personales incluidos en grandes conjuntos de datos. Esto difumina de alguna manera la relación entre los datos y el sujeto, lo que lleva a violaciones de la normativa que rara vez se producen cuando el responsable del tratamiento y el sujeto tienen una relación directa. Esto podría traer consecuencias en cuanto al cumplimiento adecuado de las normas de protección de datos. Es primordial que estos trabajadores clave sean lo más conscientes posible de las implicaciones éticas y sociales de su trabajo, y del hecho mismo de que éstas pueden incluso extenderse a las decisiones de la sociedad,  aunque la coartada de la “ingeniería deshonesta” apenas puede funcionar después del caso de Google Street View.

Los diseñadores de algoritmos deben ser capaces de comprender las implicaciones de su acción, tanto para los individuos como para la sociedad, y ser conscientes de sus responsabilidades aprendiendo a mostrar una atención y vigilancia continuas. Esto ayudará al desarrollador de IA a evitar muchos problemas éticos y legales innecesarios. En ese sentido, una formación óptima para todos los sujetos implicados en el proyecto (desarrolladores, programadores, codificadores, científicos de datos, ingenieros, investigadores) incluso antes de que se inicie podría ser una de las herramientas más eficaces para ahorrar tiempo y recursos en términos de cumplimiento de la normativa de protección de datos. Así, la puesta en marcha de programas de formación básica que incluyan al menos los fundamentos de la Carta de Derechos Fundamentales, los principios expuestos en el artículo 5 del RGPD, la necesidad de una base jurídica para el tratamiento (incluidos los contratos entre las partes), etc.

También es muy recomendable adoptar medidas adecuadas para garantizar la confidencialidad, la integridad y la disponibilidad de los datos (véase la subsección “Medidas de apoyo a la confidencialidad” en la sección “Integridad y confidencialidad” del capítulo “Principios”).

Ir al contenido