Éviter les biaisinjustes

Les ensembles de données utilisés par les systèmes d’IA, tant pour la formation que pour le fonctionnement, peuvent souffrir de l’inclusion de biais historiques involontaires, d’incomplétudes et de modèles de mauvaise gouvernance. Le maintien de ces biais pourrait entraîner des biaiset des discriminations involontaires (in)directs à l’encontre de certains groupes ou personnes, ce qui pourrait exacerber les biaiset la marginalisation. Le préjudice peut également résulter de l’exploitation intentionnelle des biais(des consommateurs) ou de l’exercice d’une concurrence déloyale, telle que l’homogénéisation des prix par le biais de la collusion ou d’un marché non transparent.

Les biaisidentifiables et discriminatoires doivent être supprimés dans la mesure du possible lors de la phase de collecte. La manière dont les systèmes d’IA sont développés (par exemple, la programmation des algorithmes) peut également souffrir de biais injustes. Cela peut être contré en mettant en place des processus de surveillance pour analyser et traiter l’objectif, les contraintes, les exigences et les décisions du système d’une manière claire et transparente. En outre, l’embauche de développeurs issus de divers milieux, cultures et disciplines peut garantir une diversité d’opinions – et doit donc être encouragée.

Accessibilité et conception universelle

Les systèmes doivent être centrés sur l’utilisateur et conçus de manière à permettre à tous d’utiliser les produits ou services d’IA, quels que soient leur âge, leur sexe, leurs capacités ou leurs caractéristiques. L’accessibilité à cette technologie pour les mineurs ou les personnes handicapées, qui sont présents dans tous les groupes sociétaux, revêt une importance particulière. Les systèmes d’IA ne devraient pas avoir une approche unique et devraient tenir compte des principes de conception universelle, en s’adressant au plus grand nombre d’utilisateurs possible, conformément aux normes d’accessibilité pertinentes. Cela permettra un accès équitable et une participation active de tous aux activités humaines existantes et émergentes assistées par ordinateur, ainsi qu’en ce qui concerne les technologies d’assistance.

Participation des parties prenantes

Pour développer des systèmes d’IA dignes de confiance, il est conseillé de consulter les parties prenantes qui peuvent être directement ou indirectement affectées par le système tout au long de son cycle de vie. Il est bénéfique de solliciter un retour d’information régulier, même après le déploiement, et de mettre en place des mécanismes à plus long terme pour la participation des parties prenantes, par exemple en assurant l’information, la consultation et la participation des travailleurs tout au long du processus de mise en œuvre des systèmes d’IA dans les organisations.