AI можно использовать для автоматизации задач, требующих обработки естественного языка (NLP), таких как чат-боты для поддержки клиентов. Эти чат-боты часто обучаются с использованием наборов данных, содержащих огромное количество данных из различных источников, включая посты в социальных сетях и онлайн-форумы, где люди обсуждают свой опыт в отношении гендерной идентичности. Когда это происходит, ИИ может непреднамеренно воспроизвести неправильные представления или даже вредные стереотипы о трансгендерных людях. Это связано с тем, что алгоритмы, которые управляют этими системами, полагаются на шаблоны, которые они находят в обучающих данных, и могут в конечном итоге усилить эти предубеждения, не осознавая этого.
Например, если набор данных содержит негативные комментарии о внешнем виде трансгендерных людей, это может привести к тому, что чат-бот будет делать уничижительные замечания при общении с ними. Точно так же, если набор данных включает устаревший язык или предположения о гендерных ролях, чат-бот может сделать неверные выводы или суждения на основе этих предубеждений. Еще один способ, которым ИИ может увековечить недопонимание вокруг гендерной идентичности, - это визуальное распознавание. Известно, что программное обеспечение для распознавания лиц борется с идентификацией небинарных лиц из-за отсутствия комплексных обучающих данных по гендерной экспрессии, помимо бинарных мужских/женских вариантов. Это может привести к исключительным практикам, таким как принуждение людей использовать свои законные имена вместо предпочтительных местоимений, что может сделать недействительной их личность.
Кроме того, технология распознавания лиц обычно используется в мерах безопасности, таких как проверка в аэропорту, что может привести к дискриминации лиц, которые не соответствуют традиционным представлениям о мужественности или женственности. Проблема выходит за рамки систем ИИ. В некоторых случаях сами разработчики ИИ могут иметь неосознанный уклон в сторону определенных полов, что приводит их к разработке продуктов, которые усиливают существующую динамику власти в обществе. Это лишь несколько примеров того, как ИИ может непреднамеренно способствовать сексизму и циснормативности. Для борьбы с этой проблемой компаниям, разрабатывающим инструменты ИИ, важно помнить об их потенциальном влиянии на маргинализированные группы и обеспечивать, чтобы все голоса были услышаны в процессе разработки. Разработчики также должны тесно сотрудничать с экспертами из недостаточно представленных сообществ, которые могут дать представление о любых основных проблемах, которые необходимо решить, прежде чем запускать новые продукты.
В целом, несмотря на то, что ИИ предоставляет много возможностей для инноваций, мы должны сохранять бдительность, не позволяя ему укреплять вредные стереотипы, связанные с гендерной идентичностью.
Как ИИ может непреднамеренно воспроизвести предубеждения или недопонимание в отношении гендерной идентичности?
Использование искусственного интеллекта (ИИ) может потенциально привести к увековечиванию предубеждений и неправильных представлений относительно гендерной идентичности из-за того, что на него влияют данные, используемые для его обучения. Эти данные могут отражать предвзятое отношение к гендерной идентичности, что может привести к тому, что система ИИ воспроизведет эти предрассудки в процессе принятия решений.