1. O preconceito de gênero é uma questão sistêmica que afeta as sociedades há séculos. No entanto, sistemas de inteligência artificial podem, inadvertidamente, perpetuar esses preconceitos, causando injustiças a grupos marginais, como as minorias sexuais e de gênero. Isso representa um grande desafio para os esforços da sociedade em prol da igualdade e inclusão.
2. Um exemplo de como a IA pode contribuir para o preconceito contra as minorias sexuais e de gênero é o conjunto de locais de trabalho. Quando os algoritmos de inteligência artificial são usados para testar os candidatos ao trabalho, eles muitas vezes dependem de dados históricos que podem ser deslocados para o mesmo sexo ou orientação sexual.
Por exemplo, se a maioria dos funcionários anteriores eram engenheiros masculinos, o algoritmo pode preferir os homens para escolher candidatos a futuros cargos de engenharia. Tal abordagem colocaria em desvantagem as engenheiras femininas e outros sexos subrepresentados, que poderiam ter as mesmas qualificações, mas que não tinham as mesmas oportunidades devido à sua identidade.
3. Outra forma de influenciar a inteligência artificial de forma involuntária no preconceito de gênero são os sistemas de recomendação.
Por exemplo, plataformas de compras online como Amazon podem recomendar produtos baseados em compras passadas de usuários com demografia semelhante. Se a maioria dos compradores que compraram a mercadoria eram homens heterossexuais, a plataforma pode sugerir que todos os clientes também são homens heterossexuais e oferecer produtos similares. Isso exclui os usuários não residentes que podem preferir produtos de outros tipos diferentes dos recomendados pelo algoritmo.
4. Para resolver esses problemas, os desenvolvedores devem incluir justiça e inclusão no design algoritmico. Eles devem treinar máquinas usando vários conjuntos de dados que refletem a diversidade da sociedade para eliminar preconceitos. Eles também devem criar mecanismos que monitorizem e identifiquem possíveis discriminações e tomem medidas corretivas apropriadas.
Por fim, eles devem considerar desenvolver modelos que permitam que as pessoas abandonem serviços personalizados se acharem que eles são direcionados ou perfilados injustamente.
5. Promover a justiça e a inclusão na IA requer a cooperação entre as diferentes partes interessadas, incluindo políticos, empresas, pesquisadores e ativistas. As políticas devem garantir que os algoritmos são concebidos de forma responsável para evitar a perpetuação de preconceitos contra grupos marginalizados. As empresas devem investir em programas de ensino e educação que ajudem os funcionários a entender como a IA funciona e como isso afeta a igualdade. Os pesquisadores devem fazer pesquisas para desenvolver algoritmos mais precisos e justos, enquanto os ativistas devem defender políticas que protejam os direitos das minorias.
6.
Para terminar, a IA tem benefícios significativos, mas também apresenta problemas únicos sobre preconceito de gênero e exclusão de minorias sexuais. Os desenvolvedores devem ter consciência deste problema ao projetar sistemas e trabalhar com outros interessados para promover a justiça e a inclusão. Assim, podemos criar uma sociedade mais justa e igualitária, em que todos sejam tratados com justiça independentemente da sua identidade.
Como é que os sistemas de inteligência artificial podem, inadvertidamente, perpetuar preconceitos contra minorias sexuais e de gênero e quais são as intervenções necessárias para garantir a justiça e a inclusão no design algoritmático?
Sistemas de inteligência artificial podem inadvertidamente refletir estereótipos sociais e preconceitos que atentam contra as minorias sexuais e de gênero. Esses preconceitos podem ser encontrados em modelos linguísticos, tecnologias de reconhecimento facial e outros algoritmos usados para tomar decisões. Para resolver este problema, os pesquisadores propuseram várias soluções, como coleta de dados de várias fontes, testes de preconceito e supervisão de pessoas durante a formação e implantação de IA.