Evitar prejuicios injustos

Los conjuntos de datos utilizados por los sistemas de IA, tanto para el entrenamiento como para el funcionamiento, pueden adolecer de la inclusión de sesgos históricos inadvertidos, datos incompletos y modelos de mala gobernanza. La persistencia de tales sesgos podría dar lugar a prejuicios y discriminación (in)directos no intencionados contra determinados grupos o personas, exacerbando potencialmente los prejuicios y la marginación. El daño también puede derivarse de la explotación intencionada de los prejuicios (de los consumidores) o de la práctica de la competencia desleal, como la homogeneización de los precios mediante la colusión o la falta de transparencia del mercado.

Los sesgos identificables y discriminatorios deben eliminarse en la fase de recopilación siempre que sea posible. La forma en que se desarrollan los sistemas de IA (por ejemplo, la programación de algoritmos) también puede sufrir sesgos injustos. Esto puede contrarrestarse poniendo en marcha procesos de supervisión para analizar y abordar la finalidad, las limitaciones, los requisitos y las decisiones del sistema de forma clara y transparente. Además, la contratación de desarrolladores de distintas procedencias, culturas y disciplinas puede garantizar la diversidad de opiniones, por lo que debe fomentarse.

Accesibilidad y diseño universal

Los sistemas deben centrarse en el usuario y diseñarse de forma que todas las personas puedan utilizar los productos o servicios de IA, independientemente de su edad, sexo, capacidades o características. La accesibilidad a esta tecnología para menores o personas con discapacidad, presentes en todos los grupos sociales, reviste especial importancia. Los sistemas de IA no deben tener un enfoque único para todos y deben tener en cuenta los principios del diseño universal, dirigiéndose a la gama más amplia posible de usuarios, siguiendo las normas de accesibilidad pertinentes. Esto permitirá el acceso equitativo y la participación activa de todas las personas en las actividades humanas actuales y emergentes mediadas por ordenador, y en relación con las tecnologías de asistencia.

Participación de las partes interesadas

Para desarrollar sistemas de IA que sean fiables, es aconsejable consultar a las partes interesadas que puedan verse afectadas directa o indirectamente por el sistema a lo largo de todo su ciclo de vida. Resulta beneficioso solicitar opiniones periódicas incluso después de su despliegue y establecer mecanismos de participación de las partes interesadas a más largo plazo, por ejemplo garantizando la información, consulta y participación de los trabajadores a lo largo de todo el proceso de implantación de los sistemas de IA en las organizaciones.