A IA é cada vez mais usada em muitas áreas diferentes, incluindo saúde, finanças, educação e até entretenimento. Embora a IA tenha revolucionado esses setores, há preocupações sobre o seu potencial de perpetuar preconceitos contra certos grupos de pessoas. Em particular, os pesquisadores expressaram preocupação de que os sistemas de IA poderiam discriminar membros da comunidade lésbica, gay, bissexual e transgênero (LGBT). Para reduzir esse risco, vários mecanismos foram desenvolvidos para identificar e eliminar preconceitos nos sistemas de IA.
No entanto, ainda não está claro se esses mecanismos são eficazes na prática.
Um dos mecanismos propostos para identificar o preconceito da IA contra grupos LGBT é a auditoria de dados. Isso inclui o estudo dos dados utilizados para o ensino do sistema de IA e garantir que ele seja representativo de todos os grupos, inclusive na comunidade LGBT. Ao identificar quaisquer lacunas no conjunto de dados, os engenheiros podem tomar medidas para garantir que seus modelos não discriminam subgrupos específicos.
Por exemplo, se o modelo de IA for treinado usando imagens médicas de casais heterossexuais, mas não de casais do mesmo sexo, pode ser menos preciso no diagnóstico de doenças entre pessoas LGBT. Da mesma forma, se o modelo financeiro usa dados de casamentos heterossexuais, mas ignora o casamento gay, pode subestimar as necessidades das famílias LGBT.
Outra abordagem para reduzir o preconceito da IA contra grupos LGBT é o treinamento da justiça algoritmica. Isso inclui ensinar algoritmos de aprendizado de máquina a reconhecer padrões de desigualdade de dados e ajustar adequadamente a sua tomada de decisões.
Por exemplo, um algoritmo projetado para prever o nível de aprovação de crédito pode ser treinado com dados históricos que mostram que os credores têm mais probabilidade de recusar empréstimos a candidatos negros e latinos do que brancos. Reconhecendo estes padrões, o algoritmo pode aprender a tratar todos os requerentes, independentemente de raça ou etnia.
O terceiro mecanismo de redução do preconceito da IA contra grupos LGBT é uma revisão humana. Nesta abordagem, as pessoas estão envolvidas no processo de avaliação do desempenho dos sistemas de IA e marcação de qualquer caso que pareça preconceituoso.
Por exemplo, se o sistema de IA recomenda consistentemente várias opções de tratamento para homens e mulheres com as mesmas doenças, os revisores podem intervir e corrigir o problema. A revisão humana também pode ajudar a identificar e eliminar outros tipos de preconceito, como o ejismo ou o ableísmo.
Apesar destes mecanismos, há evidências de que os sistemas de IA continuam a discriminar membros da comunidade LGBT. Um estudo recente mostrou que o software de reconhecimento facial é mais provável de identificar erroneamente os transgêneros como um sexo diferente dos indivíduos cisgêneros. Da mesma forma, um relatório do Instituto Nacional de Normas e Tecnologia (NIST, na sigla em inglês) mostrou que a tecnologia de reconhecimento de voz foi menos precisa na identificação de vozes femininas do que a dos homens. Estes resultados mostram que mesmo os sistemas de IA mais modernos podem não estar imunes ao preconceito contra determinados grupos.
Em geral, embora tenha havido progressos na detecção e mitigação do preconceito da IA contra grupos LGBT, há muito trabalho a fazer. Pesquisadores, engenheiros e políticos devem continuar a desenvolver novas técnicas e assegurar a implementação efetiva das existentes. Só assim podemos criar sistemas de IA verdadeiramente inclusivos e justos que atendam igualmente todos os membros da sociedade.
Quais são os mecanismos disponíveis para identificar e aliviar o preconceito da IA contra os grupos LGBT e como eles são eficazes na prática?
Atualmente existem várias ferramentas para identificar e mitigar o preconceito da IA contra grupos LGBT. Uma das abordagens mais populares é o pré-processamento de dados, que inclui a limpeza e filtragem de conjuntos de dados para eliminar quaisquer potenciais desvios. Outra abordagem é o uso de algoritmos de aprendizado de máquina que podem aprender com exemplos de conjuntos de dados não imparciais. Além disso, técnicas ativas de treinamento podem ser usadas para identificar as emissões no conjunto de dados de aprendizagem que podem causar deslocamento.