El sesgo algorítmico es un sesgo involuntario o intencional que existe en los algoritmos utilizados para tomar decisiones o predicciones basadas en conjuntos de datos. Esto puede ocurrir cuando ciertos grupos están insuficientemente representados en estos conjuntos de datos, lo que conduce a resultados sesgados.
Si el algoritmo está entrenado en datos de personas que tienden a ser blancos y hombres, esto puede conducir a resultados sesgados para las mujeres y las personas de color.
En términos de extraña visibilidad y estereotipos en Internet, el sesgo algorítmico juega un papel importante en la formación de la representación y percepción de identidades extrañas. Las personas extrañas a menudo se enfrentan a estereotipos y conceptos erróneos debido a su identidad, lo que puede llevar a su exclusión del discurso principal.
Estos estereotipos también pueden perpetuarse a través de resultados de motores de búsqueda, cintas de redes sociales y otras plataformas en línea que se basan en recomendaciones algorítmicas. Este artículo examinará algunas de las formas en que el sesgo algorítmico contribuye a este problema.
Una de las formas en que el sesgo algorítmico refuerza la invisibilidad queer es su influencia en los resultados del motor de búsqueda. Cuando alguien busca información relacionada con problemas LGBTQ +, puede encontrar sitios web con información obsoleta o inexacta, o incluso artículos que contengan discursos de odio o estereotipos dañinos. Esto podría crear un círculo vicioso en el que la gente sólo vea ideas negativas sobre extrañas personalidades en línea y asuma que no tienen lugar en la sociedad.
Dado que muchas comunidades queer han sido históricamente marginadas, carecen de los recursos necesarios para asegurar su representación en los principales motores de búsqueda, como Google o Bing. Sin una representación adecuada, estas comunidades siguen siendo invisibles para muchas personas que buscan información sobre ellas en Internet.
El sesgo algorítmico también puede contribuir a propagar estereotipos dañinos sobre personas extrañas.
Cuando los algoritmos dan prioridad a ciertos tipos de contenido sobre otros, como los videos que involucran a hombres blancos cisgénero comprometidos con la homofobia, esto puede normalizar este comportamiento y hacerlo más aceptable de lo que realmente es. Este tipo de sesgo puede ser especialmente problemático para jóvenes extraños que pueden no tener acceso a información precisa sobre sus identidades en otros lugares. También crea un ambiente en el que las personas extrañas se sienten inseguras para expresarse libremente en línea debido al miedo a convertirse en blanco de grupos de odio o trolls.
El sesgo algorítmico puede perpetuar la noción de que las personalidades extrañas son menos dignas de representación que las heteronormativas. Esto ocurre cuando las plataformas como YouTube recomiendan contenidos similares basados exclusivamente en el historial de vistas y no en la relevancia real o el nivel de interés. Recomendar contenido basado en lo que ya se ha visto, en lugar de lo que alguien realmente quiere ver, fortalece la idea de que el contenido queer no es lo suficientemente importante para una búsqueda activa. Esto contribuye a un ciclo en el que los usuarios siguen consumiendo medios de comunicación básicos sin enfrentarse nunca a diferentes perspectivas o narrativas fuera de su zona de confort.
El sesgo algorítmico puede llevar a discriminar a personas extrañas en aplicaciones de citas u otras redes sociales. Muchas aplicaciones populares utilizan algoritmos para seleccionar personas basadas en intereses comunes o apariencia que pueden excluir a personas extrañas que no entran en estas categorías.
Algunas aplicaciones utilizan datos de perfiles de usuario e historial de actividad para ofrecer coincidencias basadas en características estereotipadas, marginando aún más a las personas que no cumplen con estas expectativas.
El sesgo algorítmico es sólo uno de los factores que contribuyen a la invisibilidad del queer y a la estereotipación en Internet; sin embargo, desempeña un papel importante en la formación de cómo se manifiestan estos problemas. Reconociendo este desafío, podemos empezar a trabajar para crear espacios en línea más inclusivos y justos para todos los datos de identificación, incluidos los extraños.
¿Cómo perpetúa el sesgo algorítmico la invisibilidad queer o los estereotipos en Internet?
Sobre la base de estudios y encuestas, se puede observar que las personas extrañas a menudo enfrentan problemas en el uso de plataformas de redes sociales debido a diversas causas, como la homofobia, la transfobia y el cisexismo. Uno de estos problemas es la presencia de un sesgo algorítmico, que se define como la tendencia de los algoritmos a perpetuar estereotipos y reforzar los prejuicios existentes contra individuos extraños.