Технология искусственного интеллекта изменила методы работы и взаимодействия компаний со своими клиентами. Одним из применений ИИ является гендерная идентификация, когда он может определить, является ли человек мужчиной или женщиной, основываясь на его внешности или поведении.
Однако существуют опасения, что эти системы могут усилить социальные предубеждения в отношении гендерной идентичности и стереотипов. Это может иметь серьезные последствия для маргинальных групп, которые уже сталкиваются с дискриминацией. В этой статье рассматривается, как системы ИИ рискуют усилить социальные предубеждения в гендерной идентификации, и обсуждаются способы смягчения этой проблемы.
Для начала алгоритмы ИИ полагаются на большие наборы данных для обучения самих себя. Эти наборы данных часто отражают существующие предубеждения в обществе, что означает, что они могут увековечить их при категоризации или прогнозировании гендерной идентичности.
Например, программное обеспечение для распознавания лиц, которое использует изображения из фильмов и телевизионных шоу, как правило, ошибочно идентифицирует цветных женщин как мужчин из-за ограниченного представительства в этих СМИ. Точно так же голосовые помощники, которые распознают речевые паттерны, как правило, недооценивают голоса женщин, потому что многие из их акцентов и диалектов не включены в обучающие данные. Кроме того, языковые модели, обученные на текстовых данных, используемых в онлайн-поиске и публикациях в социальных сетях, также демонстрируют предвзятость по отношению к небинарным личностям.
Кроме того, алгоритмы ИИ учатся, обнаруживая закономерности в данных. Они используют эти модели для прогнозов, но если данные включают предвзятую информацию, прогнозы также будут предвзятыми.
Например, система искусственного интеллекта, предназначенная для анализа заявлений о приеме на работу, может присваивать женщинам более низкие баллы, потому что она была обучена на исторических данных, показывающих, что менее квалифицированные кандидаты были в основном мужчинами. То же самое относится и к другим областям, таким как здравоохранение, финансы и образование.
Кроме того, некоторые системы искусственного интеллекта могут создавать новые формы дискриминации на основе предполагаемой гендерной идентичности.
Например, виртуальный помощник, запрограммированный для предоставления рекомендаций для сайтов знакомств, может сопоставлять пользователей с потенциальными партнерами на основе их гендерного выражения, а не сексуальной ориентации. Это исключило бы трансгендерных людей, которые не вписываются в бинарные категории.
Тем не менее, есть шаги, которые мы можем предпринять, чтобы снизить риск усиления социальных предубеждений в системах ИИ. Один из подходов состоит в том, чтобы гарантировать, что данные, используемые для обучения алгоритмов ИИ, отражают различные перспективы. Компании должны работать с маргинализированными сообществами, чтобы собирать более инклюзивные данные и соответствующим образом корректировать свои алгоритмы. Они также должны протестировать свои системы ИИ, используя такие методы, как перекрестная проверка и анализ ошибок, для выявления любых непреднамеренных предубеждений.
Кроме того, компаниям следует рассмотреть возможность создания таких защитных мер, как процессы проверки человеком или предоставления пользователям вариантов исправления неправильной гендерной идентификации.
В заключение, хотя ИИ изменил многие отрасли, его применение в гендерной идентификации вызывает обеспокоенность по поводу увековечивания существующих социальных предубеждений. Гарантируя, что данные, используемые для обучения алгоритмов ИИ, отражают различные перспективы, проверяя их на предвзятость и создавая защитные меры, компании могут смягчить эту проблему и сделать свои продукты доступными для всех.
Как системы ИИ рискуют усилить социальные предубеждения при категоризации или прогнозировании гендерной идентичности?
Системы искусственного интеллекта, которые полагаются на данные из человеческих источников, могут быть обучены распознавать конкретные атрибуты, связанные с определенным полом, такие как длина волос или тон голоса, которые могут увековечить существующие стереотипы и предубеждения против определенных полов. Кроме того, если личная информация человека используется при обучении этих алгоритмов, они могут отражать устаревшие предположения о гендерных ролях и идентичностях, что приводит к предвзятым прогнозам или классификациям.