Deslocamento algoritmico é um termo usado para descrever a tendência de algoritmos ou conjuntos de instruções usados para tomar decisões baseadas em dados de entrada, para obter resultados que favorecem injustamente determinados grupos de pessoas em comparação com outros. Isso pode acontecer em muitos contextos, incluindo quando se trata de redes sociais como Facebook e Twitter.
Por exemplo, se o algoritmo for desenvolvido para recomendar posts baseados no ativismo dos usuários, ele pode eventualmente recomendar posts de homens diretos e cisgêneros mais frequentemente do que de mulheres ou pessoas LGBT. Isso pode criar um laço de feedback quando os usuários veem menos posts destes grupos marginais, o que leva a uma interação ainda menor com eles, o que aumenta o preconceito do algoritmo.
No entanto, quando se trata de aplicativos de namoro, este problema torna-se muito mais insidioso. Os aplicativos de encontro dependem em grande parte de algoritmos para selecionar usuários baseados em suas preferências, mas também coletam muitos dados pessoais sobre os usuários. Estes dados podem incluir coisas como idade, sexo, orientação sexual, localização e até mesmo filiação política. Usando estes dados, o aplicativo pode tentar prever quais coincidências serão interessantes para os usuários.
No entanto, se a aplicação é preconceituosa contra as pessoas LGBT, pode mostrar-lhes menos parceiros potenciais que compartilham sua sexualidade, o que pode limitar suas capacidades e gerar frustração.
O problema vai além da simples familiaridade com os aplicativos. Na verdade, foi descoberto que o preconceito algoritmico penetra em muitos aspectos da vida diária, desde sistemas de busca de emprego até pontos de crédito. E embora alguns desses preconceitos possam parecer benignos, eles podem ter consequências graves para os usuários LGBT.
Por exemplo, um algoritmo que favorece os usuários diretos no sistema de busca de emprego pode dificultar a busca de oportunidades de emprego para as pessoas LGBT. Da mesma forma, um algoritmo que discrimina pessoas transgêneros ao determinar a capacidade de crédito pode dificultar a obtenção de empréstimos ou outras formas de ajuda financeira.
Uma forma de combater o preconceito algoritmico é aprender os próprios algoritmos. Os sistemas de aprendizagem de máquinas podem ser ensinados a reconhecer padrões e tomar decisões baseadas nestes padrões, de modo que os desenvolvedores podem criar programas para minimizar o preconceito. Outra opção é garantir que os dados usados para controlar esses algoritmos sejam diversos e representativos de todos os grupos de pessoas.
Finalmente, os usuários podem se pronunciar quando veem casos de preconceito algoritmico e denunciá-los às empresas responsáveis. Trabalhando juntos, podemos criar um ambiente online mais justo para todos.
Como o preconceito algoritmo repete a discriminação de usuários LGBT no modo offline?
O preconceito algoritmico se refere ao processo pelo qual algoritmos de computador são programados para tomar decisões que podem ser preconceituosas contra determinados grupos de pessoas com base em sua raça, gênero, orientação sexual, idade, deficiência ou outros fatores. No contexto de aplicativos de encontros online, isso significa que é provável que o algoritmo do aplicativo mostre aos usuários LGBT menos coincidências potenciais do que aos usuários não LGBT, mesmo que tenham preferências e interesses semelhantes.