ИИ все чаще используется во многих различных областях, включая здравоохранение, финансы, образование и даже развлечения. Хотя ИИ произвел революцию в этих отраслях, существуют опасения по поводу его потенциала для увековечивания предубеждений в отношении определенных групп людей. В частности, исследователи выразили обеспокоенность по поводу того, что системы ИИ могут дискриминировать представителей сообщества лесбиянок, геев, бисексуалов и трансгендеров (ЛГБТ). Чтобы снизить этот риск, были разработаны различные механизмы для выявления и устранения предвзятости в системах ИИ.
Однако остается неясным, насколько эти механизмы эффективны на практике.
Одним из механизмов, который был предложен для выявления предвзятости ИИ в отношении ЛГБТ-групп населения, является аудит данных. Это включает в себя изучение данных, используемых для обучения системы ИИ, и обеспечение того, чтобы она была репрезентативной для всех групп, в том числе в ЛГБТ-сообществе. Выявляя любые пробелы в наборе данных, инженеры могут предпринять шаги, чтобы гарантировать, что их модели не дискриминируют конкретные подгруппы.
Например, если модель ИИ обучается с использованием медицинских изображений гетеросексуальных пар, но не однополых пар, то она может быть менее точной при диагностике заболеваний среди ЛГБТ-людей. Точно так же, если финансовая модель использует данные о гетеросексуальных браках, но игнорирует однополые браки, она может недооценивать потребности ЛГБТ-семей.
Другим подходом к снижению предвзятости ИИ в отношении ЛГБТ-групп населения является обучение алгоритмической справедливости. Это включает в себя обучение алгоритмов машинного обучения распознавать закономерности неравенства в данных и соответствующим образом корректировать их принятие решений.
Например, алгоритм, предназначенный для прогнозирования уровня одобрения кредитов, может быть обучен на исторических данных, показывающих, что кредиторы с большей вероятностью отказывают в кредитах чернокожим и латиноамериканским заявителям, чем белым. Признавая эти закономерности, алгоритм может научиться справедливо относиться ко всем заявителям независимо от расы или этнической принадлежности.
Третий механизм снижения предвзятости ИИ в отношении ЛГБТ-групп населения - это человеческий обзор. В этом подходе люди участвуют в процессе оценки производительности систем ИИ и маркировки любых случаев, когда они кажутся предвзятыми.
Например, если система ИИ последовательно рекомендует различные варианты лечения для мужчин и женщин с одинаковыми заболеваниями, рецензенты могут вмешаться и исправить проблему. Человеческий обзор также может помочь выявить и устранить другие виды предвзятости, такие как эйджизм или аблеизм.
Несмотря на эти механизмы, есть свидетельства того, что системы ИИ продолжают дискриминировать членов ЛГБТ-сообщества. Недавнее исследование показало, что программное обеспечение для распознавания лиц с большей вероятностью ошибочно идентифицирует трансгендеров как другой пол, чем цисгендерных людей. Аналогичным образом, отчет Национального института стандартов и технологий (NIST) показал, что технология распознавания голоса была менее точной при идентификации женских голосов по сравнению с мужскими. Эти результаты показывают, что даже самые современные системы ИИ могут быть не застрахованы от предвзятости в отношении определенных групп.
В целом, хотя был достигнут прогресс в выявлении и смягчении предвзятости ИИ в отношении ЛГБТ-групп населения, предстоит проделать большую работу. Исследователи, инженеры и политики должны продолжать разрабатывать новые методы и обеспечивать эффективное внедрение существующих. Только тогда мы сможем создать по-настоящему инклюзивные и справедливые системы ИИ, которые одинаково обслуживают всех членов общества.
Какие существуют механизмы для выявления и смягчения предвзятости ИИ в отношении ЛГБТ-групп населения и насколько они эффективны на практике?
В настоящее время существуют различные инструменты для выявления и смягчения предвзятости ИИ в отношении ЛГБТ-групп населения. Одним из наиболее популярных подходов является предварительная обработка данных, которая включает очистку и фильтрацию наборов данных для устранения любых потенциальных отклонений. Другой подход - использование алгоритмов машинного обучения, которые могут учиться на примерах непредвзятых наборов данных. Кроме того, активные методы обучения могут использоваться для выявления выбросов в наборе обучающих данных, которые могут вносить смещение.