Detectar y eliminar los sesgos
Home » IA » IA: el proceso paso a paso » Modelización (entrenamiento) » Detectar y eliminar los sesgos

Aunque los mecanismos contra los sesgos se adoptan convenientemente en las fases anteriores (véase la sección anterior sobre el entrenamiento), sigue siendo necesario garantizar que los resultados de la fase de entrenamiento minimicen los sesgos. Esto puede ser difícil, ya que algunos tipos de sesgo y discriminación suelen ser especialmente difíciles de detectar. Los miembros del equipo que curan los datos de entrada a veces no son conscientes de ellos, y los usuarios que son sus sujetos tampoco son necesariamente conscientes de ellos. Por ello, los sistemas de control que aplica el desarrollador de IA en la fase de validación son factores muy importantes para evitar los sesgos.

Hay muchas herramientas técnicas que pueden servir para detectar sesgos, como la Evaluación del Impacto Algorítmico. El desarrollador de IA debe considerar su aplicación efectiva.  Sin embargo, como muestra la literatura, puede ocurrir que un algoritmo no pueda ser totalmente purgado de todos los diferentes de sesgos. Sin embargo, el desarrollador debe intentar, al menos, ser consciente de su existencia y de las implicaciones que ello puede acarrear (véanse las secciones “Licitud, lealtad y transparencia” y “Exactitud” en el capítulo “Principios”).

Ir al contenido