Les biais algorithmiques peuvent être définis comme des préjugés qui découlent des données utilisées pour l'apprentissage des algorithmes, qui perpétuent ensuite les mêmes biais à travers leurs prédictions et leurs décisions. Ces dernières années, on s'est inquiété de la façon dont les préjugés algorithmiques peuvent influencer la perception du sexe et de la sexualité sur Internet. Cet essai examinera comment le biais algorithmique peut améliorer subtilement les hypothèses réglementaires sur le champ et la sexualité, en particulier dans le contexte des applications de rencontres en ligne et des plateformes de médias sociaux.
Il est important de noter que de nombreux services en ligne dépendent largement du contenu utilisateur, tels que les profils et les posts, pour fournir des conseils personnalisés et des résultats de rencontre. Ces systèmes sont conçus pour créer une illusion de choix tout en maintenant un déséquilibre de puissance entre les utilisateurs et les plates-formes.
Par exemple, lorsqu'un utilisateur crée un profil dans une application de rencontre, il est présenté une série de matchs potentiels en fonction de son emplacement, de son âge, de ses intérêts et d'autres facteurs démographiques.
Cependant, il est possible que ce processus soit influencé par des données biaisées ou des stéréotypes obsolètes, ce qui conduit à des possibilités limitées pour ceux qui ne correspondent pas aux catégories traditionnelles.
Un exemple de biais algorithmique dans le domaine de la rencontre en ligne provient d'OkCupid, une plate-forme de rencontre populaire qui utilise un système de correspondance pour relier les utilisateurs sur la base d'intérêts communs. Une étude menée par Data & Society a montré que l'algorithme OkCupid privilégie les couples hétérosexuels plutôt que les personnes LGBTQ + en raison de schémas historiques dans les données des utilisateurs. Par conséquent, même si plus de la moitié de tous les nouveaux mariages comprennent actuellement au moins un partenaire qui s'identifie comme autre chose que comme étant direct, les utilisateurs qui ne s'identifient pas comme étant cisgenres peuvent se voir offrir moins d'options que ceux qui le font.
De même, les algorithmes utilisés par Facebook et Instagram pour déterminer quel contenu apparaît dans les bandes des utilisateurs sont souvent biaisés à l'égard des groupes marginaux.
Par exemple, une étude publiée dans Nature Communications a montré que les femmes sont plus susceptibles que les hommes de recevoir des publicités pour les produits de perte de poids, ce qui perpétue les normes de genre nocives autour de l'image corporelle. En outre, des études ont montré que les Noirs américains sont plus susceptibles que les Blancs de voir la publicité pour la discrimination dans le logement sur les réseaux sociaux, ce qui renforce les inégalités raciales. Ces types de préjugés algorithmiques peuvent réduire les perspectives et renforcer les stéréotypes négatifs sur certains groupes.
En conclusion, bien que de nombreux services en ligne affirment offrir la personnalisation et le choix, ils peuvent en fait limiter la capacité de leurs utilisateurs à explorer en dehors des normes établies en matière de sexe et de sexualité. En étudiant le principe de fonctionnement de ces systèmes, nous pouvons commencer à remettre en question les hypothèses qui les sous-tendent et à chercher à créer des alternatives plus inclusives.
En outre, il est important que les utilisateurs connaissent la façon dont leurs informations personnelles sont utilisées et partagées afin qu'ils puissent prendre des décisions éclairées sur ce qu'ils préfèrent partager en ligne.
Les distorsions algorithmiques peuvent-elles améliorer subtilement les hypothèses normatives sur le champ et la sexualité sur Internet ?
Les biais algorithmiques peuvent être définis comme des erreurs systématiques résultant de décisions biaisées prises par des algorithmes d'apprentissage automatique basés sur des ensembles de données contenant des préjugés humains. Ces préjugés peuvent avoir des conséquences involontaires sur les communautés marginalisées et entraîner une discrimination. Dans le cas des plateformes en ligne, comme les réseaux sociaux, ces préjugés peuvent influencer la façon dont les gens interagissent les uns avec les autres et façonnent les relations, y compris celles liées au sexe et à la sexualité.