Представители ЛГБТ веками сталкивались с дискриминацией в различных аспектах своей жизни из-за сексуальной ориентации и гендерной идентичности.
Однако последние достижения в технологии искусственного интеллекта принесли новые проблемы для этого сообщества. Алгоритмы, которые управляют многими процессами принятия решений, теперь способны генерировать результаты на основе шаблонов данных, которые потенциально могут увековечить предрассудки. Это вызвало обеспокоенность по поводу потенциальной роли этих алгоритмов в усилении существующих предубеждений против ЛГБТ, что может привести к дальнейшему исключению из возможностей, услуг и ресурсов. В этой статье мы рассмотрим структурные и алгоритмические предубеждения, существующие в системах искусственного интеллекта, и обсудим стратегии их эффективного смягчения.
Структурное предубеждение
Одним из структурных предубеждений, которые существуют в системах искусственного интеллекта, является отсутствие представительства лиц ЛГБТ в обучающих наборах данных. Большинство обучающих данных, используемых для разработки алгоритмов, собираются из гетеронормативных популяций, приводя к искаженной перспективе мира, которая не точно отражает разнообразный опыт людей ЛГБТ.
Например, языковые модели, обученные на текстовых корпусах, могут содержать язык, который усиливает негативные стереотипы или оскорбительные термины в отношении ЛГБТ-людей, которые могут влиять на то, как они взаимодействуют с системой. Отсутствие представительства ЛГБТ в обучающих данных также означает, что системы могут не распознавать потребности и предпочтения этого сообщества, что приводит к неоптимальным рекомендациям и услугам.
Алгоритмическое смещение
Другой тип смещения в системах ИИ возникает из-за использования дискриминационных признаков. К ним относятся такие переменные, как раса, возраст, пол, местоположение и социально-экономический статус, все это может способствовать необъективным результатам при использовании в сочетании с другими факторами.
Например, работодатель может использовать алгоритм для проверки кандидатов на работу на основе определенной квалификации, но если их алгоритм запрограммирован в пользу кандидатов, имеющих опыт работы, сходный с предыдущими сотрудниками (то есть белыми мужчинами), это может исключить квалифицированных заявителей ЛГБТ. Точно так же приложения для знакомств могут отображать только гетеросексуальные соответствия для пользователей, исключая странных людей из поиска совместимых партнеров.
Стратегии смягчения
Для решения этих проблем можно реализовать несколько стратегий, чтобы гарантировать, что системы искусственного интеллекта разработаны с учетом инклюзивности:
1. Увеличение представительства: Одним из способов смягчения структурной предвзятости является увеличение представительства ЛГБТ-людей в обучающих наборах данных. Компании должны стремиться диверсифицировать свою рабочую силу и клиентскую базу, гарантируя, что их продукты отражают широкий спектр опыта и перспектив. Этого можно достичь с помощью целенаправленной практики найма, партнерства с организациями, представляющими недопредставленные сообщества, и сбора данных от различных групп населения.
2. Регулярный аудит моделей: Крайне важно постоянно контролировать производительность систем ИИ, чтобы выявлять любые потенциальные предубеждения в отношении ЛГБТ-людей. Это включает в себя регулярную оценку алгоритмов с использованием объективных критериев, таких как показатели точности, метрики ошибок и деревья решений. Выявляя и устраняя любые различия на раннем этапе, компании могут предотвратить системную дискриминацию.
3. Организации должны обеспечивать непрерывное образование и инициативы по повышению осведомленности в целях содействия разнообразию и вовлеченности в работу своих групп. Это включает обучение сотрудников тому, как распознавать и избегать предвзятого языка и поведения, а также предоставление ресурсов для тех, кто может подвергаться дискриминации или преследованиям.
4. Использование идентификаторов явного смещения: для решения проблемы алгоритмического смещения разработчики могут использовать явные идентификаторы, такие как возраст, пол и сексуальная ориентация, чтобы исключить определенные переменные при принятии решений.
Например, работодатель может создать описание должности, в котором указано «нет предпочтений» в отношении сексуальной ориентации, а не полагаться исключительно на резюме кандидата. Аналогичным образом, приложения для знакомств могут позволить пользователям фильтровать совпадения на основе определенных предпочтений, а не полагаться исключительно на настройки по умолчанию.
В заключение следует отметить, что структурные и алгоритмические искажения в искусственном интеллекте представляют значительную угрозу для доступа ЛГБТ-людей к возможностям, услугам и ресурсам. Компании должны принять активные меры для смягчения этих предубеждений путем увеличения представительства, регулярного аудита моделей, продвижения обучения разнообразию и внедрения явных идентификаторов предубеждений в свои системы. Тем самым они могут гарантировать, что системы ИИ разработаны с учетом инклюзивности, что приведет к более справедливым результатам для всех.
Какие структурные и алгоритмические отклонения в искусственном интеллекте увековечивают дискриминацию в отношении ЛГБТ-людей и как их можно эффективно смягчить?
Структурные и алгоритмические отклонения, которые распространены в системах искусственного интеллекта (ИИ), могут создавать барьеры для представления ЛГБТ-людей в наборах данных, используемых для обучения этих моделей ИИ. Это отсутствие представительства может привести к неточным прогнозам и принятию решений системами ИИ, что может еще больше усугубить дискриминацию в их отношении.