Nos últimos anos, avanços em inteligência artificial (IA) revolucionaram a forma como as empresas funcionam e as pessoas se comunicam.
No entanto, apesar de seu potencial para transformar a sociedade, a IA tende a perpetuar preconceitos que podem passar despercebidos, mas podem afetar significativamente a igualdade social. Este artigo vai discutir como os sistemas de IA podem, inadvertidamente, promover estereótipos de gênero e normas que podem deixar certos grupos em desvantagem e propor soluções para frear tais preconceitos, ao mesmo tempo que promovem o desenvolvimento tecnológico.
Alguns algoritmos de software usados em aplicações de IA, tais como tecnologia de reconhecimento facial, assistentes de voz e modelos de linguagem, podem codificar preconceitos de identidade sexual e de gênero.
Por exemplo, estes programas são projetados para reconhecer modelos com base em conjuntos de dados existentes que podem refletir estereótipos de gênero. Os algoritmos de reconhecimento facial são treinados com imagens de homens brancos, o que leva a preconceitos contra mulheres e pessoas de cor. O mesmo se aplica a assistentes de voz como Siri ou Alexa, cujas configurações padrão sugerem vozes masculinas, fazendo com que eles ignorem as perguntas quando as mulheres as abordam. Os modelos linguísticos também se baseiam em dados de texto passados, que geralmente refletem as relações heteronormativas entre um homem e uma mulher, o que leva a uma compreensão limitada dos sexos não anónimos e relações fora da monogamia.
Esses preconceitos podem gerar resultados injustos, incluindo discriminação no trabalho, acesso desigual à saúde e falta de representatividade na educação. Por isso, corrigir tais desvios requer conjuntos de dados mais variados, princípios inclusivos de engenharia e monitoramento contínuo. As empresas devem garantir que seus dados de treinamento incluem diferentes sexos, raças, idade, tipos de corpo e orientação para minimizar os preconceitos. Além disso, os desenvolvedores devem incluir medidas de proteção de privacidade para evitar a exploração de informações pessoais.
Por fim, testes e auditorias regulares podem ajudar a identificar e eliminar qualquer preconceito inconsciente no sistema, promovendo igualdade sem inovações sufocantes.
Para terminar, os sistemas de IA podem promover normas de gênero e estereótipos que perpetuam a desigualdade se não forem corrigidos com um esforço consciente. Ao coletar dados variados, aplicar princípios inclusivos de design e testar regularmente, empresas e indivíduos podem criar uma sociedade justa, continuando a beneficiar dos avanços tecnológicos.
Quais são os mecanismos para que os sistemas de IA perpetuem inadvertidamente os deslocamentos heteronormativos ou cismativos, e como esses deslocamentos podem ser corrigidos sem reprimir a inovação?
Os algoritmos de IA, apesar da neutralidade inerente, podem reproduzir as normas sociais existentes se forem treinados com dados que não sejam representativos de todos os sexos, orientações sexuais ou identidades de gênero. Isso pode levar a previsões, decisões e recomendações erradas que podem perpetuar ainda mais a discriminação dos grupos marginalizados. Para resolver este problema, os desenvolvedores devem reunir uma variedade de conjuntos de dados e garantir que seus algoritmos são desenvolvidos com base em princípios justos.