Что подразумевается под «ИИ» и «ЛГБТ «?
Термин искусственный интеллект (ИИ) относится к компьютерным программам, которые предназначены для выполнения задач, требующих человеческого интеллекта, таких как понимание естественного языка, распознавание объектов, принятие решений и обучение на основе данных. Напротив, сообщества лесбиянок, геев, бисексуалов, трансгендеров, квиров/анкетирования, интерсекс-людей, асексуалов, союзников + (LGBTQIA +) относятся к людям, которые идентифицируют себя вне традиционного бинарника мужских и женских, гетеросексуальных, цисгендерных и моногамных отношений.
Как ИИ учится на данных?
В машинном обучении ИИ система учится на больших наборах данных, содержащих помеченные примеры. Он использует алгоритмы, чтобы найти шаблоны в данных и обобщить эти шаблоны для новых случаев. Чем разнообразнее набор данных, тем лучше ИИ может учиться.
Однако, если набор данных содержит предубеждения в отношении ЛГБТ-людей, ИИ также будет воспроизводить эти предубеждения.
Почему ЛГБТ-люди сталкиваются с предубеждениями в обществе?
Во многих обществах по-прежнему существуют предубеждения в отношении негетеронормативной сексуальности и гендерной идентичности. Эти предрассудки часто выражаются через дискриминацию, насилие и социальную изоляцию. В результате люди ЛГБТ могут быть недопредставлены или искажены в государственных учреждениях и СМИ.
Как это влияет на системы ИИ?
Если системы ИИ полагаются на предвзятые наборы данных, они могут привести к несправедливым результатам для людей ЛГБТ.
Например, программное обеспечение для распознавания лиц, обученное на изображениях с несколькими лицами ЛГБТ, может изо всех сил пытаться распознать трансгендерных людей. Это может привести к дискриминационным методам работы полиции.
Какие этические принципы должны направлять развитие ИИ?
Исследователи и разработчики должны следовать этическим принципам, таким как справедливость, подотчетность, прозрачность и конфиденциальность при разработке систем ИИ. Они должны обеспечить, чтобы их работа была инклюзивной и уважительной для всех сообществ.
Как исследователи могут избежать воспроизведения социальных предубеждений?
Чтобы предотвратить размножение предубеждений, исследователи должны использовать непредвзятые наборы данных, рассматривать альтернативные методы обучения и взаимодействовать с маргинализованными сообществами в процессе проектирования.
Какие механизмы лежат в основе воспроизведения системами искусственного интеллекта социальных предубеждений против ЛГБТ-сообществ и как исследователи и разработчики могут вмешиваться этически?
Наиболее распространенные способы, которыми системы искусственного интеллекта (ИИ) воспроизводят социальные предубеждения, включают чрезмерную зависимость от предвзятых наборов данных и алгоритмов, которые увековечивают существующие стереотипы. Это особенно важно, когда эти предубеждения связаны с маргинальными группами, такими как лесбиянки, геи, бисексуалы и трансгендеры (ЛГБТ).