Влияние алгоритмов искусственного интеллекта на видимость, представительство и безопасность пользователей ЛГБТК
Платформы социальных сетей стали неотъемлемой частью современной жизни, позволяя миллиардам людей общаться и делиться своим опытом в Интернете.
Однако многие маргинальные сообщества сталкиваются с уникальными проблемами, когда дело доходит до представления себя и поиска поддержки через эти платформы. Одной из таких групп является ЛГБТК-сообщество, которое исторически подвергалось дискриминации и насилию на основе своей сексуальной ориентации и гендерной идентичности. В этой статье рассматривается, как алгоритмы искусственного интеллекта могут влиять на видимость, представительство и безопасность ЛГБТК-пользователей в социальных сетях.
Когда дело доходит до видимости, некоторые утверждают, что алгоритмы смещены в сторону гетеросексуальных и цисгендерных индивидуумов, потому что они предпочитают популярный контент, который соответствует доминирующим культурным нормам.
Например, Алгоритм Ленты новостей Facebook отдает приоритет публикациям от друзей и членов семьи, в то время как на странице Explore в Instagram продвигаются фотографии знаменитостей и влиятельных людей. В результате ЛГБТК-люди могут изо всех сил пытаться найти свои голоса в этих пространствах, ограничение возможности поиска информации или построения отношений с другими лицами, имеющими схожие личные данные.
Кроме того, алгоритмы могут укрепить стереотипы и увековечить вредные представления ЛГБТК-людей.
Например, Алгоритм TikTok часто предлагает видеоролики с участием транс-женщин, носящих традиционно женскую одежду, подразумевая, что это единственный приемлемый для них способ представить себя. Точно так же механизм рекомендаций YouTube часто продвигает видео о «выходящих» историях, предполагая, что быть геем или трансгендером - это то, чего стоит смущаться. Такой контент может нормализовать негативное отношение к негетеронормативным личностям и создать среду, где процветают домогательства и разжигание ненависти.
Кроме того, алгоритмы также могут непреднамеренно подвергать ЛГБТК-пользователей опасным ситуациям.
Например, приложения для знакомств, такие как Grindr и Scruff, были связаны с повышенным уровнем насилия в отношении квир-людей, поскольку хищники используют данные о местоположении для выявления и нацеливания на уязвимых жертв.
Однако, если алгоритмы были разработаны для защиты конфиденциальности пользователя, скрывая определенные местоположения, этот риск может быть снижен.
В заключение, алгоритмы искусственного интеллекта играют важную роль в формировании опыта социальных сетей для пользователей ЛГБТК. Хотя они могут улучшить видимость и укрепить связь, они также могут ограничить представительство, продвигать вредные стереотипы и подвергать людей риску. Поэтому разработчики должны уделять приоритетное внимание созданию инклюзивных и справедливых алгоритмов, которые поддерживают все сообщества, включая те, кто находится в маргинальном положении из-за своей сексуальной ориентации или гендерной идентичности.