Может ли алгоритмическая система усиливать или подавлять квир-голоса? Этот вопрос обсуждается годами в кругах информатики, но четкого ответа до сих пор нет. С одной стороны, кажется, что алгоритмы могут помочь выявить и продвинуть маргинальные сообщества, такие как сообщество ЛГБТК +. С другой стороны, они также могут усилить существующие предубеждения и усугубить дискриминацию в отношении этих групп.
Алгоритмы - это математические формулы, предназначенные для решения проблем. Они принимают данные и дают результаты, основанные на этих входных данных. В последние годы они становятся все более важными в таких областях, как финансы, здравоохранение, образование и политика. Но когда дело доходит до усиления или подавления квир-голосов, их роль усложняется.
Один из способов усиления квир-голосов - использование рекомендательных систем. Эти системы предлагают статьи, видео или другие медиа, которые могут показаться пользователям интересными. Если они замечают закономерности в том, что люди читают или смотрят, они могут адаптировать рекомендации, чтобы отразить эти интересы. Это может включать содержимое, ориентированное на запросы, которое в противном случае может быть трудно найти.
Однако эти алгоритмы не всегда работают так, как предполагалось.
Например, некоторые исследования показали, что рекомендатели могут исключать содержимое от определенных авторов, если они используют определенный язык. Другие могут показывать рекламу, ориентированную на цисгендерных мужчин, затрудняя трансгендерам поиск соответствующей информации.
Более того, эти системы могут увековечить стереотипы о поле и сексуальности. Они могут предположить, что все хотят видеть традиционные представления о романтических отношениях между мужчиной и женщиной, что ограничивает видимость ненормативных идентичностей. Точно так же они могут предположить, что все женщины хотят видеть уроки макияжа, игнорируя разнообразные стандарты красоты.
Для решения этой проблемы компании начали разработку более инклюзивных алгоритмов. Некоторые платформы теперь учитывают такие факторы, как раса, этническая принадлежность и инвалидность, при создании предложений контента. Другие позволяют пользователям настраивать свои предпочтения, указывая категории идентификаторов.
Однако есть еще много возможностей для улучшения.
Алгоритмы также играют важную роль в преследовании странных людей в Интернете. Риторика ненависти, доксинг (публичный обмен личной информацией) и другие формы злоупотреблений стали обычным явлением в социальных сетях. Эти платформы часто полагаются на алгоритмы машинного обучения, чтобы помечать потенциально оскорбительные посты. Но иногда они не распознают вредных слов и действий.
Кроме того, алгоритмические системы могут косвенно способствовать дискриминации ЛГБТК + сообществ.
Например, сайты по подбору персонала часто используют ключевые слова, чтобы сопоставить кандидатов с открытыми позициями. Если эти ключевые слова исключают термины, связанные с небинарными или полиаморными идентичностями, это может привести к смещению.
В целом, алгоритмические системы не могут быть полностью нейтральными в отношении усиления или подавления квир-голосов. Хотя у них есть потенциал для поддержки разнообразия, они должны быть тщательно разработаны и проверены для предотвращения непреднамеренных последствий. Разработчики и политики должны гарантировать, что эти инструменты используются ответственно и справедливо.
Могут ли алгоритмические системы когда-либо быть нейтральными при усилении или глушении квир-голосов?
Усиление квир-голосов было постоянной проблемой в течение многих лет, когда люди часто сталкивались с дискриминацией, предрассудками и исключением из основного общества. Хотя технология может показаться многообещающим решением для решения этой проблемы, есть основания полагать, что она не может сделать это полностью нейтрально. Алгоритмические системы разрабатываются людьми, имеющими свои собственные предубеждения и убеждения, которые могут формировать то, как они интерпретируют данные и принимают решения.