Cet article explique comment la conception des systèmes d'intelligence artificielle (IA) peut coder involontairement des hypothèses hétéronormatives qui représentent des croyances sur les rôles de genre et les normes sexuelles qui reflètent les valeurs traditionnelles, souvent patriarcales. Il explore les différentes façons dont ces préjugés peuvent se manifester dans la technologie de l'IA et propose des stratégies potentielles pour les identifier et les corriger.
L'hétéronormative fait référence à l'attente que les gens adhèrent à certains rôles de genre et entrent dans des relations romantiques monogames et hétérosexuelles, les hommes occupant généralement des positions dominantes dans le cadre de ces arrangements. Ces hypothèses sont profondément enracinées dans de nombreuses cultures et sociétés du monde entier et ont été renforcées par des siècles de socialisation et de traitement idéologique. Toutefois, ces dernières années, on a de plus en plus reconnu les effets néfastes des structures hétéronormatives sur les personnes qui ne respectent pas ces normes, ce qui a entraîné une augmentation des appels à leur démantèlement.
L'un des domaines où ce problème est particulièrement grave est le développement de systèmes d'intelligence artificielle qui dépendent largement des ensembles de données et des algorithmes qui peuvent être basés sur des préjugés culturels préexistants.
Par exemple, les modèles d'apprentissage automatique utilisés pour générer des chatbots ou des assistants virtuels peuvent inclure des modèles et des réponses linguistiques qui impliquent une structure de genre binaire, perpétuant les stéréotypes sur la virilité et la féminité. De même, le logiciel de reconnaissance faciale peut lutter pour l'identification précise des sexes non binaires, les excluant des services et des ressources importants.
Heureusement, il existe plusieurs méthodologies pour détecter et corriger ces préjugés dans les systèmes d'intelligence artificielle. Une approche consiste à effectuer une analyse de sensibilité afin d'évaluer la façon dont les différents groupes démographiques peuvent interagir avec le système et d'identifier les angles morts ou les zones de discrimination possibles. Une autre stratégie consiste à mettre au point d'autres ensembles de données qui reflètent des points de vue et des expériences plus variés, comme les personnes transgenres ou intersexes.
En outre, les chercheurs peuvent utiliser des méthodes telles que la formation concurrentielle pour soumettre les modèles d'IA à des scénarios qui remettent en question leurs hypothèses de base en leur permettant de s'adapter et de se développer en conséquence.
En général, la résolution du problème du déplacement hétéronormatif dans la conception de l'IA exige à la fois la conscience de son omniprésence et la créativité dans la définition de solutions efficaces. En accordant la priorité à l'inclusion et à l'équité dans le développement de la technologie, nous pouvons contribuer à créer un avenir dans lequel tous les êtres humains pourront participer pleinement à notre société de plus en plus numérique, sans crainte de discrimination ou de marginalisation.
Comment la conception des systèmes d'IA peut-elle coder involontairement des hypothèses hétéronormatives et quelles méthodologies existent pour détecter et corriger ces préjugés ?
Le terme « hétéronormative » se réfère à la croyance que l'hétérosexualité est la seule orientation sexuelle acceptable qui est généralement soutenue par des institutions sociales telles que les lois sur le mariage et les structures familiales. Cela peut être problématique quand il s'agit de concevoir des systèmes d'intelligence artificielle (IA), car ils peuvent par inadvertance encoder ce biais dans leurs algorithmes et leurs processus décisionnels.