Los sesgos crean prejuicios y discriminación contra determinados grupos o personas. Los sesgos también pueden ser el resultado de la explotación intencionada de los prejuicios (de los consumidores), o de la realización de una competencia desleal, como la homogeneización de los precios mediante la colusión o un mercado poco transparente. El uso de los datos recogidos a través de las redes sociales podría contribuir a agravar esta situación, principalmente por la creación de conjuntos de datos sesgados. Esto podría ocurrir, por ejemplo, debido a una recogida inadecuada de los datos producidos por los interesados. “Los datos de las redes sociales pueden ser difíciles de verificar: los usuarios pueden mentir sobre su edad, ubicación, trabajo o cualquier otra característica. Los investigadores deben ser conscientes de este problema y abordar esta dificultad cuando sea pertinente. No es aconsejable entender a los usuarios como el “público en general”, debido a las desigualdades en el acceso a Internet, y los investigadores deben considerar cómo fomentar la diversidad (cuando sea pertinente) en su muestra.”[1] También puede ocurrir que los datos inferidos o derivados creen esos sesgos debido a sus propios problemas técnicos. Si estos datos sesgados alimentan la elaboración de perfiles o la toma de decisiones automatizada, esto podría traer consecuencias sociales inaceptables. Por supuesto, si la investigación implica el uso de IA, esto probablemente aumentará el riesgo relacionado con los sesgos (véase la subsección “Legalidad, lealtad y transparencia” de la sección de conceptos principales de la parte general de estas directrices).
Para evitar este escenario, se requiere una evaluación crítica de la procedencia de los datos. Para ello, deben aplicarse medidas organizativas que garanticen la exactitud y la fiabilidad de los datos recogidos, sin dejar de respetar el derecho de los usuarios a no revelar información privada (por ejemplo, confirmando si un registro es exacto o no). Además, es necesario realizar una auditoría dedicada a detectar sesgos en los datos brutos o en los conjuntos de datos inferidos o derivados, especialmente cuando los responsables utilizan conjuntos de datos producidos a través de las redes sociales.
- Univerity of York, Guidelines for the Use of Social Media Data in Research, at: https://www.york.ac.uk/staff/research/governance/research-policies/social-media-data-use-research/ ↑