Como é que a inteligência artificial pode, inadvertidamente, aumentar os preconceitos na interpretação de sinais de gênero ou personalidade?
Quando se trata de interações sociais envolvendo pessoas, há certos fatores que influenciam a forma como as pessoas interpretam as identidades dos outros. Eles incluem características físicas, tais como raça, idade, altura, peso, estilo de vestuário, traços faciais, cor do cabelo e altura da voz. Também podem haver dicas finas relacionadas com linguagem corporal, postura, contato visual, tom de voz e comunicação verbal que podem identificar aspectos da personalidade, do estado emocional e do fundo de alguém.
No entanto, essas variáveis nem sempre são fáceis de identificar com precisão ou consistência. Os sistemas de inteligência artificial foram treinados para reconhecer padrões e fazer previsões com base em conjuntos de dados, mas também podem tentar compreender as nuances dos sinais sociais e podem, de forma involuntária, perpetuar estereótipos.
Uma das áreas em que isso pode se tornar problemático é quando um sistema de inteligência artificial é encarregado de analisar imagens ou vídeos de pessoas e emitir julgamentos sobre seu campo ou orientação sexual.
Por exemplo, se o algoritmo de aprendizado de máquina foi treinado exclusivamente em fotos de homens brancos em trajes de negócios, provavelmente não será correto pensar que todos os homens vestidos profissionalmente são hétero. Da mesma forma, se o conjunto de dados usado para ensinar o modelo foi limitado a fotos de mulheres jovens com cabelos louros e olhos azuis, isso pode concluir que todas as pessoas que se encaixam nessa descrição são mulheres. Este fenômeno conhecido como «reaproveitamento» ocorre porque o algoritmo se torna excessivamente dependente de um determinado subconjunto de dados e não consegue resumir suas conclusões em outros contextos.
Além de aumentar o preconceito, os sistemas de IA também podem introduzir novos devido à sua dependência dos dados de entrada dos programadores humanos. Se os desenvolvedores usam conjuntos de dados obsoletos ou incompletos, os algoritmos que eles criam podem mostrar preconceitos nocivos contra determinados grupos, como a subrepresentação de minorias ou sua imagem de forma negativa. Da mesma forma, se o modelo de IA for projetado para categorizar as pessoas apenas na aparência, pode omitir detalhes importantes, como a mímica e a linguagem corporal, que contribuem para a forma como percebemos a personalidade de alguém.
Além disso, há preocupações sobre como a IA pode afetar nossa compreensão da identidade de gênero no futuro. Alguns especialistas acreditam que os avanços em robótica e realidade virtual podem levar ao desenvolvimento de avatares mais realistas que apagam os limites entre as formas de expressão física e digital. À medida que estas tecnologias se tornam cada vez mais complexas, podem desafiar as ideias tradicionais sobre o que significa ser um homem ou uma mulher, levando a novas formas de se expressar e criar uma identidade pessoal.
No entanto, esta evolução pode potencialmente perpetuar os preconceitos existentes se os designers não considerarem a diversidade de experiências em diferentes comunidades.
Em última análise, a solução destes problemas requer um exame cuidadoso tanto dos aspectos técnicos da IA quanto dos efeitos socioculturais do uso da tecnologia na interpretação do comportamento humano. Reconhecendo que as potenciais pedras submarinas dependem demais dos modelos de aprendizagem de máquinas, pesquisadores e engenheiros podem trabalhar para criar ferramentas mais inclusivas e precisas que reflitam a natureza complexa da interação humana. Isso não só beneficiará aqueles que interagem com a IA, mas também nos ajudará a compreender melhor nós mesmos e uns aos outros através de uma lente mais ampla.
Como é que a inteligência artificial pode, inadvertidamente, aumentar os preconceitos na interpretação de sinais de gênero ou personalidade?
Inteligência Artificial (IA) mostrou ser eficaz no reconhecimento de padrões de dados, mas nem sempre consegue interpretá-los corretamente. Quando a IA é treinada em conjuntos de dados com preconceitos humanos, pode perpetuar esses preconceitos em seus processos decisórios.