В последние годы растет внимание к потенциальным негативным последствиям алгоритмического смещения на платформах социальных сетей, особенно когда речь идет о вопросах, связанных с расой и полом.
Однако как насчет алгоритмических смещений, которые тонко усиливают гетеронормативные предположения в пространствах, которые предназначены для инклюзивности? В этом эссе будет рассмотрен этот вопрос, изучено, как эти предубеждения могут проявляться в различных контекстах, и обсуждены стратегии смягчения их воздействия.
В первую очередь важно понять, что означает «гетеронормативность». Гетеронормативность относится к предположению, что все прямые, цисгендерные и моногамны. Она предполагает, что гетеросексуальность является нормой и что любое отклонение от этого ненормально. Алгоритмические искажения могут увековечить эту веру даже в пространствах, которые должны быть инклюзивными.
Например, рассмотрим приложение для знакомств, которое использует алгоритмы для сопоставления пользователей на основе их предпочтений и интересов. Если по умолчанию обоими партнерами являются цисгендерные мужчины или женщины, то это может привести к исключению небинарных людей, которые не идентифицируют себя ни как мужчины, ни как женщины. Точно так же, если приложение отдает приоритет парам, которые разделяют схожие религиозные или политические взгляды, оно может исключить людей с разными убеждениями.
Другим способом, с помощью которого алгоритмические искажения могут усилить гетеронормативность, является продвижение определенных типов отношений над другими.
Например, многие приложения для онлайн-знакомств предлагают такие функции, как свайп вправо или влево по потенциальным совпадениям. Хотя это может показаться безвредным, на самом деле это может стимулировать поверхностные суждения, основанные на внешнем виде, а не на более глубоких факторах совместимости. В результате люди, которые не вписываются в традиционные стандарты красоты или находятся за пределами типичных возрастных диапазонов, могут изо всех сил пытаться найти подходящих партнеров.
Кроме того, некоторые приложения позволяют пользователям выбирать только один пол при поиске потенциальных совпадений, что ограничивает набор доступных вариантов и подтверждает идею о наличии только двух полов.
Наконец, алгоритмические смещения также могут тонко усиливать гетеронормативные допущения с помощью языка.
Например, такие термины, как «муж» или «жена» могут автоматически появляться в сообщениях чата между двумя сопоставленными пользователями. Это усиливает идею о том, что все отношения гетеросексуальны и моногамны, даже несмотря на то, что у многих людей разные предпочтения или идентичности. Аналогичным образом, алгоритмические рекомендации могут предлагать действия или события, которые предполагают определенную сексуальную ориентацию или семейное положение. Эти предположения могут нанести вред тем, кто не вписывается в эти категории, и заставить их чувствовать себя исключенными из сообщества.
Итак, как мы можем решить эти проблемы? Одна из стратегий заключается в том, чтобы предоставить более инклюзивные варианты в алгоритмах и функциях.
Например, приложения для знакомств могут предлагать несколько гендерных вариантов и позволять пользователям настраивать критерии поиска так, чтобы они включали конкретные атрибуты, помимо только гендерной идентичности. Они также могли бы избегать использования языка, который предполагает, что все натуралы или женаты. Другой подход заключается в информировании пользователей о существовании предвзятости и ее влиянии на их опыт. Повышая осведомленность, пользователи могут лучше осознавать выбор, который они делают, и осознавать, когда они усиливают нормы, исключающие определенные группы.
Наконец, платформы должны уделять приоритетное внимание исследованиям и разработкам, направленным на создание более разнообразного и справедливого опыта для всех пользователей.
В заключение, в то время как алгоритмические предубеждения могут показаться безобидными на первый взгляд, они на самом деле могут увековечить вредные стереотипы и исключения. Понимая, как работают эти предубеждения, и предпринимая шаги по их смягчению, мы можем создать пространства, которые действительно способствуют вовлечению и разнообразию.
Могут ли алгоритмические смещения тонко усиливать гетеронормативные предположения даже в пространствах, предназначенных для инклюзивности?
По мнению специалистов в области компьютерных наук, алгоритмические смещения действительно могут усилить гетеронормативные предположения, независимо от намерений пространства быть инклюзивным. Алгоритмы создаются людьми, у которых могут быть неосознанные предубеждения, влияющие на процесс принятия решений, что может привести к дискриминации определенных групп, включая тех, кто идентифицирует себя как ЛГБТК +.