Le biais algorithmique se réfère aux préjugés qui peuvent survenir lorsque les algorithmes utilisés pour prendre des décisions dans différents domaines, tels que l'embauche, le crédit et les soins de santé, peuvent conduire à des résultats inéquitables en raison d'une saisie de données biaisée. On s'inquiète de plus en plus de l'impact potentiel du biais algorithmique sur les personnes qui appartiennent à des groupes marginalisés comme les lesbiennes, les gays, les bisexuels et les transgenres (LGBT). Ce document discutera des structures existantes pour identifier et atténuer les biais algorithmiques à l'égard des personnes LGBT et de leur efficacité dans la pratique.
La première structure comprend l'étude des sources de données utilisées pour l'apprentissage de l'algorithme. Cela garantit que les données d'apprentissage reflètent fidèlement la population desservie.
Par exemple, si l'algorithme d'emploi est formé à l'aide de CV d'hommes hétérosexuels, cela peut conduire à des résultats biaisés pour les demandeurs LGBT. Pour éviter cela, les organisations peuvent inclure dans leurs ensembles de données de formation diverses sources de données représentant tous les genres, l'orientation sexuelle et l'identité de genre.
Une autre approche consiste à utiliser des mesures d'équité dans l'élaboration du modèle. Ces métriques évaluent si le modèle considère différents sous-groupes de la même façon ou préfère un groupe par rapport à un autre.
Par exemple, l'indicateur d'égalité compare l'efficacité du modèle dans différents groupes démographiques, tandis qu'une mesure d'impact disparate révèle toute différence entre les résultats des groupes.
En outre, des méthodes de post-traitement telles que la réévaluation ou l'étalonnage peuvent être appliquées pour corriger la sortie en fonction de la représentation du groupe dans l'ensemble de données.
En outre, les outils d'explication peuvent aider à analyser les modèles de la boîte noire et à déterminer les schémas ou les corrélations qui peuvent nuire. En expliquant le processus décisionnel de l'algorithme, ces méthodes peuvent détecter des biais cachés qui pourraient être passés inaperçus autrement. L'explication permet également aux algorithmes d'audit de s'assurer qu'ils ne discriminent pas certains groupes.
Enfin, un suivi et une évaluation réguliers des performances de l'algorithme sont essentiels pour maintenir son efficacité. Les organisations doivent constamment tester leurs algorithmes pour vérifier les biais potentiels et apporter des modifications là où cela est nécessaire. Il peut s'agir de tester les performances de l'algorithme dans différentes populations et de comparer ses résultats avec d'autres systèmes similaires. Le suivi aide également à identifier de nouvelles formes de biais à mesure que la société évolue.
Bien que ces structures existent pour atténuer les biais algorithmiques, leur efficacité est limitée. Premièrement, la collecte de données variées peut être difficile en raison de problèmes de confidentialité et de disponibilité des données. Deuxièmement, les indicateurs de l'équité ne reflètent pas toujours exactement les scénarios réels, ce qui rend difficile la détection de toutes les formes de discrimination.
Enfin, les outils d'explication nécessitent de l'expérience et du temps, ce qui peut limiter leur disponibilité.
En conclusion, l'identification et l'atténuation des biais algorithmiques à l'égard des personnes LGBT nécessitent une approche multipartite qui comprend une étude approfondie des sources de données, l'utilisation de mesures d'équité lors du développement du modèle, l'utilisation d'outils d'explication et le suivi régulier des performances de l'algorithme. Bien que ces stratégies offrent une certaine protection contre la discrimination, des recherches supplémentaires sont nécessaires pour éliminer les nouvelles formes de préjugés dans un monde de plus en plus diversifié.
Quelles structures existent pour identifier et atténuer les biais algorithmiques à l'égard des personnes LGBT et dans quelle mesure sont-ils efficaces dans la pratique ?
De nombreux cadres ont été proposés pour identifier et atténuer les biais algorithmiques à l'encontre des personnes LGBT. L'un de ces cadres est l'Ontologie formelle des systèmes d'information (FOIS), qui définit l'ontologie comme « une spécification formelle des concepts et des relations nécessaires pour représenter le domaine du discours d'un domaine d'application particulier » (Ram et al., 2015).