Los sistemas de recomendaciones de IA en las plataformas sociales son cada vez más populares entre los usuarios LGBTQ que buscan ponerse en contacto con otros que comparten intereses y experiencias similares.
Sin embargo, estos sistemas también plantean desafíos significativos para los esfuerzos de creación de comunidades debido a su tendencia a aumentar las cámaras de eco discriminatorias que marginan voces extrañas. Los usuarios de Queer pueden enfrentarse a contenidos homofóbicos y transfóbicos que normalizan los prejuicios en su contra, al tiempo que reciben recomendaciones sobre contenidos que no importan ni son inexactos con respecto a sus experiencias de vida. Esto puede llevar a una sensación de aislamiento, frustración y frustración en las comunidades en línea.
Una solución potencial es la transparencia algorítmica, que incluye proporcionar a los usuarios acceso a los datos y algoritmos utilizados para generar recomendaciones. Al comprender cómo funcionan estos sistemas, los usuarios pueden controlar mejor el trabajo en línea y adaptarlo mejor a sus necesidades.
Además, una mayor transparencia puede ayudar a identificar errores en el propio sistema y alentar los cambios necesarios para solucionarlos.
Por ejemplo, si los usuarios reciben constantemente recomendaciones de contenido sobre relaciones heteronormativas, esto puede indicar la necesidad de ajustar los parámetros del algoritmo.
Sin embargo, la implementación de la transparencia algorítmica no carece de su propio conjunto de problemas. Si bien esto permitiría a los usuarios tener más oportunidades de estar presentes en Internet, también requeriría un esfuerzo y recursos considerables de las empresas de redes sociales. Además, esta transparencia puede producirse a expensas de la privacidad de los usuarios, ya que éstos pueden no querer proporcionar información personal que pueda ser utilizada por terceros para orientar anuncios o manipular la opinión pública.
En conclusión, los sistemas de recomendaciones de IA en las plataformas sociales desempeñan un papel importante, ya sea en el fortalecimiento de las voces queer o en el fortalecimiento de las cámaras de eco discriminatorias. La transparencia algorítmica puede mejorar los resultados para los usuarios LGBTQ al permitirles controlar su experiencia en línea, al tiempo que responsabilizan a las empresas de redes sociales de cualquier sesgo en sus recomendaciones.
En última instancia, el logro de un equilibrio entre la privacidad de los usuarios, los esfuerzos por crear una comunidad y una representación precisa dependerá del esfuerzo colectivo de los usuarios, las empresas de redes sociales y los responsables políticos.