Identidade e expressão de gênero - temas complexos que muitas vezes incluem nuances e interpretações subjetivas. Embora muitas pessoas possam se sentir confortáveis a expressar-se livremente, outras podem ter dificuldades devido à pressão pública ou limitações pessoais. A inteligência artificial (IA) pode revolucionar a forma como as pessoas identificam e expressam o seu sexo, mas também tem seu próprio conjunto de problemas e limitações. Neste artigo, abordaremos alguns desses problemas e discutimos maneiras pelas quais as tecnologias de inteligência artificial podem aumentar inadvertidamente preconceitos e mal-entendidos em relação à identidade e expressão de gênero.
Um problema é que algoritmos de inteligência artificial são treinados usando grandes quantidades de dados, incluindo imagens, texto e gravações de áudio. Estes dados podem conter preconceitos ou estereótipos implícitos sobre identidade de gênero e expressões que levam a erros de interpretação.
Por exemplo, um algoritmo desenvolvido para reconhecimento facial pode lutar para classificar com precisão as pessoas transgêneros, baseando-se apenas nos traços faciais, porque elas não se encaixam nas categorias tradicionais masculino/feminino. Da mesma forma, o software de reconhecimento de voz pode não classificar corretamente vozes não femininas ou masculinas, perpetuar a ideia de que existem apenas dois sexos.
Outro problema é que os sistemas de inteligência artificial podem fortalecer estereótipos de gênero interpretando a linguagem de maneira binária.
Por exemplo, um bate-papo projetado para responder a perguntas sobre a escolha da moda pode não classificar corretamente certos itens de vestuário como pertencentes exclusivamente a um sexo, limitando assim a capacidade dos usuários.
Além disso, mecanismos de recomendação baseados em inteligência artificial podem recomendar produtos ou serviços baseados em noções antiquadas de papéis de gênero, como oferecer apenas projéteis esportivos tradicionalmente masculinos para meninos ou produtos cosméticos para meninas.
Além disso, os Sistemas de Inteligência Artificial podem, inadvertidamente, promover normas rígidas de gênero através da sua interação com as pessoas.
Por exemplo, os assistentes virtuais podem usar termos de gênero como «ele» ou «ela», mesmo quando se dirigem a pessoas que se identificam como nenhum dos dois. Da mesma forma, dispositivos caseiros com controle de voz podem exigir que os usuários escolham entre as vozes femininas e masculinas, o que pode ser exclusivo para aqueles que não correspondem a essas opções binárias.
Para terminar, embora a IA possa dar às pessoas a oportunidade de se expressar fielmente, ele também oferece riscos de aumento involuntário de preconceitos e mal-entendidos em relação à identidade e expressão de gênero. Para reduzir esses riscos, os desenvolvedores devem trabalhar para que seus algoritmos sejam treinados usando diferentes conjuntos de dados e não tenham preconceitos implícitos. Eles também devem considerar como sua tecnologia interage com os usuários e procurar criar experiências inclusivas que respeitem todas as identidades.
Como é que as tecnologias de inteligência artificial podem aumentar inadvertidamente preconceitos ou mal-entendidos em relação à identidade e expressão de gênero?
As tecnologias de inteligência artificial podem não querer aumentar os preconceitos analisando dados que não são representativos de todos os sexos, raças, grupos étnicos e culturas. Isso pode resultar em resultados imprecisos ao identificar certos sinais ou características. Além disso, algoritmos de IA podem aprender com preconceitos humanos e preconceitos que podem perpetuar estereótipos e equívocos existentes.