En los últimos años ha aumentado la atención sobre los posibles efectos negativos del cambio algorítmico en las plataformas de redes sociales, especialmente cuando se trata de cuestiones relacionadas con la raza y el género.
Sin embargo, ¿qué hay de los desplazamientos algorítmicos que amplifican sutilmente las suposiciones heteronormativas en los espacios que están diseñados para ser inclusivos? En este ensayo se abordará esta cuestión, se estudiará cómo estos prejuicios pueden manifestarse en diferentes contextos y se discutirán estrategias para mitigar su impacto.
En primer lugar, es importante comprender lo que significa «heteronormatividad». La heteronormatividad se refiere a la suposición de que todos son directos, cisgénero y monógamos. Ella sugiere que la heterosexualidad es la norma y que cualquier desviación de esto no es normal. Las distorsiones algorítmicas pueden perpetuar esta creencia incluso en espacios que deben ser inclusivos.
Por ejemplo, considere una aplicación de citas que utiliza algoritmos para asignar usuarios en función de sus preferencias e intereses. Si por defecto ambas parejas son hombres o mujeres cisgénero, esto puede llevar a la exclusión de personas no binarias que no se identifican ni como hombres ni como mujeres. Del mismo modo, si la aplicación da prioridad a parejas que comparten opiniones religiosas o políticas similares, puede excluir a personas con creencias diferentes.
Otra forma en que las distorsiones algorítmicas pueden aumentar la heteronormatividad es promoviendo ciertos tipos de relaciones sobre otros.
Por ejemplo, muchas aplicaciones de citas en línea ofrecen características como deslizar a la derecha o a la izquierda por posibles coincidencias. Aunque pueda parecer inofensivo, en realidad puede estimular juicios superficiales basados en la apariencia y no en factores de compatibilidad más profundos. Como resultado, las personas que no encajan en los estándares de belleza tradicionales o están fuera de los rangos de edad típicos pueden luchar para encontrar parejas adecuadas.
Además, algunas aplicaciones permiten a los usuarios seleccionar sólo un sexo cuando buscan posibles coincidencias, lo que limita el conjunto de opciones disponibles y confirma la idea de tener solo dos sexos.
Finalmente, los desplazamientos algorítmicos también pueden amplificar sutilmente los supuestos heteronormativos mediante el lenguaje.
Por ejemplo, términos como «marido» o «esposa» pueden aparecer automáticamente en mensajes de chat entre dos usuarios asignados. Esto refuerza la idea de que todas las relaciones son heterosexuales y monógamas, a pesar de que muchas personas tienen preferencias o identidades diferentes. Asimismo, las recomendaciones algorítmicas pueden sugerir acciones o eventos que impliquen cierta orientación sexual o estado civil. Estas suposiciones pueden perjudicar a aquellos que no encajan en estas categorías y hacer que se sientan excluidos de la comunidad.
Entonces, ¿cómo podemos resolver estos problemas? Una de las estrategias es proporcionar opciones más inclusivas en algoritmos y funciones.
Por ejemplo, las aplicaciones de citas pueden ofrecer múltiples opciones de género y permitir a los usuarios personalizar los criterios de búsqueda para que incluyan atributos específicos, además de la identidad de género únicamente. También podrían evitar el uso de un lenguaje que suponga que todos son naturales o están casados. Otro enfoque es informar a los usuarios sobre la existencia de sesgos y su impacto en sus experiencias. Al crear conciencia, los usuarios pueden ser más conscientes de las decisiones que toman y ser conscientes cuando refuerzan las normas que excluyen a ciertos grupos.
Por último, las plataformas deben dar prioridad a la investigación y el desarrollo orientados a crear experiencias más diversas y equitativas para todos los usuarios.
En conclusión, si bien los prejuicios algorítmicos pueden parecer inocuos a primera vista, en realidad pueden perpetuar estereotipos y exclusiones perjudiciales. Al entender cómo funcionan estos prejuicios y tomar medidas para mitigarlos, podemos crear espacios que realmente promuevan la inclusión y la diversidad.
¿Pueden los desplazamientos algorítmicos amplificar sutilmente las suposiciones heteronormativas incluso en espacios destinados a la inclusión?
Según expertos en ciencias de la computación, los desplazamientos algorítmicos pueden realmente reforzar los supuestos heteronormativos, independientemente de las intenciones del espacio de ser inclusivo. Los algoritmos son creados por personas que pueden tener prejuicios inconscientes que afectan el proceso de toma de decisiones, lo que puede llevar a discriminar a ciertos grupos, incluidos aquellos que se identifican como LGBTQ +.