Impacto de los algoritmos de inteligencia artificial en la visibilidad, representación y seguridad de los usuarios LGBTQ
Las plataformas de redes sociales se han convertido en una parte integral de la vida moderna, permitiendo a miles de millones de personas comunicarse y compartir sus experiencias en línea.
Sin embargo, muchas comunidades marginales se enfrentan a desafíos únicos a la hora de presentarse y buscar apoyo a través de estas plataformas. Uno de esos grupos es la comunidad LGBTQ, que históricamente ha sufrido discriminación y violencia por su orientación sexual e identidad de género. Este artículo examina cómo los algoritmos de inteligencia artificial pueden influir en la visibilidad, representación y seguridad de los usuarios LGBTQ en las redes sociales.
Cuando se trata de visibilidad, algunos argumentan que los algoritmos se desplazan hacia individuos heterosexuales y cisgénero porque prefieren contenidos populares que se ajusten a las normas culturales dominantes.
Por ejemplo, el algoritmo de Facebook News Feeds da prioridad a las publicaciones de amigos y familiares, mientras que la página de Instagram Explore promociona las fotos de celebridades e influencers. Como resultado, las personas LGBTQ pueden luchar para encontrar su voz en estos espacios, limitar la posibilidad de buscar información o construir relaciones con otras personas que tienen datos personales similares.
Además, los algoritmos pueden fortalecer estereotipos y perpetuar representaciones dañinas de personas LGBTQ.
Por ejemplo, el algoritmo TikTok a menudo ofrece videos que involucran a mujeres trans que usan ropa tradicionalmente femenina, lo que implica que es la única manera aceptable para que se presenten. Del mismo modo, el mecanismo de recomendaciones de YouTube a menudo promueve videos sobre historias que «salen», sugiriendo que ser gay o transgénero es algo que vale la pena avergonzarse. Este tipo de contenido puede normalizar las actitudes negativas hacia personalidades no heteronormativas y crear un entorno donde florezca el acoso y la incitación al odio.
Además, los algoritmos también pueden exponer involuntariamente a los usuarios LGBTQ a situaciones peligrosas.
Por ejemplo, las aplicaciones de citas como Grindr y Scruff se han asociado con mayores niveles de violencia contra las personas queer, ya que los depredadores utilizan datos de localización para identificar y dirigir a las víctimas vulnerables.
Sin embargo, si los algoritmos han sido diseñados para proteger la privacidad del usuario ocultando ciertas ubicaciones, este riesgo puede reducirse.
En conclusión, los algoritmos de inteligencia artificial juegan un papel importante en la formación de experiencias de redes sociales para los usuarios LGBTQ. Aunque pueden mejorar la visibilidad y fortalecer el vínculo, también pueden limitar la representación, promover estereotipos dañinos y poner en riesgo a las personas. Por lo tanto, los desarrolladores deben priorizar la creación de algoritmos inclusivos y equitativos que apoyen a todas las comunidades, incluidas las que están marginadas por su orientación sexual o identidad de género.