Технологии искусственного интеллекта все чаще используются для интерпретации и классификации гендерной идентичности, но они могут быть подвержены социальным предубеждениям, которые могут привести к неправильным или вредным результатам. Вот как это происходит:
1) Наборы данных, используемые для обучения алгоритмов искусственного интеллекта, могут содержать предвзятость из-за исторического отношения к определенным полам или сексуальной ориентации.
Например, если набор данных включает изображения женщин, занимающихся традиционными женскими видами деятельности, такими как приготовление пищи и уборка, он может привести алгоритм искусственного интеллекта, чтобы связать эти задачи с женской гендерной идентичностью.
2) Алгоритмы, которые анализируют речевые паттерны и вокальные характеристики для определения гендерной идентичности, также могут зависеть от культурных стереотипов о том, как звучат мужчины и женщины. Это может привести к ошибочной идентификации или дискриминации небинарных лиц, которые не соответствуют этим стереотипам.
3) Программное обеспечение для распознавания лиц - это еще одна область, в которой могут возникать гендерные предубеждения, особенно когда речь идет о распознавании гендерно-нейтральных черт лица или трансгендерных лиц, внешний вид которых не соответствует назначенному им полу при рождении.
4) В дополнение к полу, алгоритмы искусственного интеллекта могут также увековечивать другие формы неравенства, основанные на расе, возрасте, статусе инвалидности и социально-экономическом происхождении.
Например, алгоритм, разработанный для обнаружения эмоций в кадрах видеонаблюдения, может ложно маркировать чернокожих людей как агрессивных или преступных чаще, чем белых людей.
5)
Наконец, системы искусственного интеллекта разрабатываются людьми, которые сами придерживаются предвзятости, что может отражаться на том, как они программируют свои технологии. Предвзятость в разработке ИИ была связана с недостаточной представленностью женщин и меньшинств в технологических отраслях.
Для решения этих проблем исследователи должны работать над созданием более разнообразных наборов данных и обучать алгоритмы ИИ распознавать ненормативные выражения пола. Компании также должны провести аудит своих систем ИИ на предмет предвзятости и внедрить меры защиты для предотвращения дискриминации.
В конечном счете, обществу необходимо бросить вызов устаревшему отношению к полу и сексуальности, чтобы все чувствовали себя увиденными и уважаемыми в нашем все более цифровом мире.
Как технологии искусственного интеллекта могут воспроизводить социальные предубеждения при интерпретации или категоризации гендерной идентичности?
Искусственный интеллект (ИИ) обучается на больших объемах данных, которые отражают модели поведения человека и предрассудки. Поэтому системы ИИ могут копировать предубеждения, присутствующие в исходном материале, используемом для их обучения, в том числе связанные с гендерной идентичностью.