Les systèmes de recommandations d'IA sur les plateformes sociales sont de plus en plus populaires parmi les utilisateurs LGBTQ qui cherchent à contacter d'autres personnes partageant des intérêts et des expériences similaires.
Cependant, ces systèmes posent également des problèmes importants aux efforts de création d'une communauté en raison de leur propension à renforcer les caméras d'écho discriminatoires qui marginalisent les voix étranges. Les utilisateurs de Queer peuvent rencontrer du contenu homophobe et transphobe qui normalise les préjugés à leur égard tout en recevant des conseils sur le contenu qui n'est pas pertinent ou inexact par rapport à leur expérience de vie. Cela peut entraîner un sentiment d'isolement, de frustration et de frustration dans les communautés en ligne.
L'une des solutions possibles est la transparence algorithmique, qui comprend l'accès des utilisateurs aux données et aux algorithmes utilisés pour formuler des recommandations. En comprenant comment ces systèmes fonctionnent, les utilisateurs peuvent mieux contrôler le travail en ligne et mieux l'adapter à leurs besoins.
En outre, une transparence accrue peut aider à détecter les erreurs dans le système lui-même et encourager à apporter les modifications nécessaires pour y remédier.
Par exemple, si les utilisateurs reçoivent en permanence des recommandations de contenu sur les relations hétéronormatives, cela peut indiquer la nécessité d'ajuster les paramètres de l'algorithme.
Cependant, la mise en œuvre de la transparence algorithmique n'est pas sans problèmes. Bien que cela permettrait aux utilisateurs d'avoir plus de possibilités d'être présents sur Internet, cela exigerait également des efforts et des ressources considérables de la part des entreprises de médias sociaux. En outre, cette transparence peut se faire au détriment de la vie privée des utilisateurs, car les utilisateurs peuvent ne pas vouloir fournir des informations personnelles qui peuvent être utilisées par des tiers pour cibler la publicité ou manipuler l'opinion publique.
En conclusion, les systèmes de recommandations de l'IA sur les plates-formes sociales jouent un rôle important soit dans le renforcement des voix queer, soit dans le renforcement des caméras d'écho discriminatoires. La transparence algorithmique peut améliorer les résultats pour les utilisateurs LGBTQ en leur permettant de contrôler leur expérience en ligne, tout en faisant en sorte que les entreprises de médias sociaux soient tenues responsables de tout biais dans leurs recommandations.
En fin de compte, l'équilibre entre la vie privée des utilisateurs, les efforts de création d'une communauté et une représentation exacte dépendra des efforts collectifs des utilisateurs, des entreprises de réseaux sociaux et des politiciens.