Os deslocamentos algoritmicos podem ser definidos como preconceitos que surgem a partir de dados usados para treinar algoritmos que, em seguida, perpetuam os mesmos deslocamentos através de suas previsões e decisões. Nos últimos anos, tem crescido a preocupação sobre como preconceitos algoritmicos podem afetar a percepção de gênero e sexualidade na Internet. Este ensaio vai considerar como o preconceito algoritmico pode aumentar sutilmente os pressupostos regulatórios sobre o campo e a sexualidade, especialmente no contexto de aplicações de encontros online e plataformas de redes sociais.
É importante notar que muitos serviços on-line dependem em grande parte do conteúdo do usuário, como perfis e posts, para fornecer recomendações personalizadas e resultados de seleção de encontros. Estes sistemas são projetados para criar uma ilusão de escolha, mantendo o desequilíbrio de potência entre usuários e plataformas.
Por exemplo, quando um usuário cria um perfil em um aplicativo de encontros, eles apresentam uma série de jogos potenciais baseados em sua localização, faixa etária, interesses e outros fatores demográficos.
No entanto, é possível que este processo seja influenciado por dados preconceituosos ou estereótipos obsoletos, levando a oportunidades limitadas para aqueles que não se encaixam nas categorias tradicionais.
Um dos exemplos de preconceito algoritmico nos encontros online vem da OkCupid, uma popular plataforma de encontros que usa um sistema de mapeamento para conectar usuários com base em interesses comuns. Um estudo realizado pela Data & Society mostrou que o algoritmo OkCupid favorece casais heterossexuais em vez de indivíduos de WOLFTQ + devido a padrões históricos de dados do usuário. Como resultado, embora mais da metade de todos os novos casamentos envolvam atualmente pelo menos um parceiro que se identifica como algo diferente de direto, os usuários que não se identificam como cisgêneros podem apresentar menos opções do que aqueles que o fazem.
Da mesma forma, os algoritmos usados pelo Facebook e Instagram para determinar qual conteúdo aparece nas fitas dos usuários são frequentemente preconceituosos contra grupos marginais.
Por exemplo, um estudo publicado na Nature Communications mostrou que as mulheres são mais propensas do que os homens a receber anúncios de produtos para emagrecer, o que perpetua normas de gênero prejudiciais em torno da imagem corporal. Além disso, estudos mostram que os americanos negros veem com mais frequência do que os brancos os anúncios de discriminação de moradia nas redes sociais, o que aumenta a desigualdade racial. Estes tipos de preconceitos algoritmicos podem reduzir as perspectivas e fortalecer os estereótipos negativos sobre alguns grupos.
Para terminar, embora muitos serviços online afirmem oferecer personalização e escolha, eles podem realmente limitar a capacidade de seus usuários pesquisar fora das normas estabelecidas em relação ao sexo e à sexualidade. Ao estudar o princípio de funcionamento destes sistemas, podemos começar a desafiar os pressupostos subjacentes e buscar alternativas mais inclusivas.
Além disso, é importante que os usuários saibam como usar e compartilhar suas informações pessoais para que possam tomar decisões razoáveis sobre o que preferem compartilhar na Internet.
As distorções algoritmicas podem aumentar sutilmente os pressupostos regulatórios sobre o campo e a sexualidade na Internet?
Deslocamentos algoritmicos podem ser definidos como erros sistemáticos que surgem de decisões preconceituosas tomadas por algoritmos de aprendizagem automática com base em conjuntos de dados que contêm preconceito humano. Esses preconceitos podem ter consequências involuntárias para as comunidades marginalizadas e causar discriminação. No caso de plataformas online, como redes sociais, esses preconceitos podem influenciar a forma como as pessoas interagem entre si e formam relações, incluindo as relacionadas com o sexo e a sexualidade.