Comment les technologies d'intelligence artificielle peuvent-elles par inadvertance renforcer les préjugés sociaux dans la catégorisation ou l'interprétation de l'identité de genre?
L'intelligence artificielle (IA) a fait d'importants progrès ces dernières années et est actuellement utilisée à diverses fins, telles que les systèmes de reconnaissance faciale, les assistants vocaux, les chatbots et les véhicules autonomes.
Cependant, l'un des domaines où l'IA peut perpétuer involontairement des préjugés sociaux est sa capacité à classer ou interpréter les identités de genre. Cet essai examinera comment les algorithmes d'IA peuvent être formés pour reconnaître des genres spécifiques et leur impact sur la société.
Un moyen de renforcer involontairement les préjugés sociaux par des algorithmes d'IA est d'utiliser des modèles d'apprentissage automatique. Ces modèles sont conçus pour apprendre des ensembles de données et faire des prévisions à partir des modèles trouvés dans ces ensembles de données.
Cependant, si ces ensembles de données sont décalés vers certains sexes, ils peuvent conduire à des algorithmes d'IA qui sont décalés vers d'autres sexes.
Par exemple, si l'algorithme de l'IA est formé à l'aide d'images d'hommes et de femmes, il peut avoir des difficultés à reconnaître des individus non binaires qui ne correspondent pas soigneusement à aucune catégorie. De même, si un algorithme d'intelligence artificielle est formé sur des schémas vocaux de personnes ayant un accent ou un dialecte particulier, il peut avoir du mal à comprendre des gens de différents horizons.
Une autre façon pour les algorithmes d'intelligence artificielle de renforcer involontairement les préjugés sociaux est d'utiliser le traitement du langage naturel (NLP). NLP comprend l'apprentissage des machines pour comprendre le langage humain et réagir en conséquence.
Cependant, si le texte d'entrée contient un langage biaisé, par exemple: « il » ou « elle », le résultat peut refléter ce biais.
Par exemple, si le système d'IA est programmé pour interpréter les pronoms de genre, il peut supposer que toutes les personnes qui utilisent « il » ou « elle » sont des hommes ou des femmes, respectivement, ce qui peut conduire à une mauvaise attitude envers les personnes transgenres ou non.
En outre, les systèmes d'intelligence artificielle peuvent également s'appuyer sur des données historiques qui reflètent des normes culturelles ou des stéréotypes sur les rôles de genre.
Par exemple, si un modèle de reconnaissance d'image a été formé sur des photos où les femmes sont souvent représentées comme des femmes au foyer ou des infirmières, cela peut se battre pour la reconnaissance des femmes professionnelles dans d'autres domaines. Cela peut être particulièrement problématique pour les femmes qui essaient de pénétrer dans des industries traditionnellement masculines comme les STIM.
De plus, les systèmes d'IA utilisés dans les processus de recrutement peuvent par inadvertance perpétuer des préjugés sociaux en privilégiant certains genres.
Par exemple, le logiciel de reconnaissance faciale utilisé pour vérifier les candidats à l'emploi peut ne pas identifier les personnes ou les femmes non binaires qui ne portent pas de maquillage ou de robe d'une certaine manière. De même, les assistantes vocales peuvent ne pas reconnaître les femmes qui ont des voix élevées ou des accents liés à certaines régions.
Pour atténuer ces problèmes, les chercheurs doivent s'assurer que les algorithmes d'IA sont conçus en tenant compte de la diversité. Il s'agit notamment de les former à différents ensembles de données, de les tester sur différents groupes de population et d'inclure des commentaires provenant de communautés marginalisées.
En outre, les développeurs doivent s'efforcer de créer des algorithmes moins dépendants du langage de genre, mais plutôt se concentrer sur la transmission des concepts de base.
Enfin, la surveillance et l'examen humains doivent être intégrés dans les systèmes d'IA afin de prévenir la discrimination fondée sur l'identité de genre.
Comment les technologies d'intelligence artificielle peuvent-elles par inadvertance renforcer les préjugés sociaux dans la classification ou l'interprétation de l'identité de genre ?
La prévalence croissante des technologies d'intelligence artificielle (IA) a permis aux machines d'accomplir diverses tâches qui étaient auparavant réservées à l'homme. L'un de ces défis est la catégorisation et l'interprétation de l'identité de genre. Bien que les systèmes d'IA soient conçus pour être objectifs et impartiaux, ils peuvent, par inadvertance, renforcer les préjugés sociaux. Cela peut se produire lorsque les algorithmes utilisés par ces systèmes reposent sur des ensembles de données contenant des informations décalées.