Nos últimos anos, a atenção tem aumentado para os potenciais efeitos negativos do deslocamento algoritmico nas plataformas de redes sociais, especialmente quando se trata de questões relacionadas com raça e sexo.
No entanto, que tal deslocamentos algoritmicos que aumentam sutilmente as suposições heteronormativas em espaços projetados para inclusão? Este ensaio abordará esta questão, examinará como esses preconceitos podem ser mostrados em vários contextos e discutirá estratégias para mitigar seus efeitos.
Primeiro é importante entender o que significa «heteronormatividade». A heteronormatividade refere-se ao pressuposto de que todos são retos, cisgêneros e monogâmicos. Ela sugere que a heterossexualidade é a norma e que qualquer desvio não é normal. Distorções algoritmicas podem perpetuar essa crença mesmo em espaços que devem ser inclusivos.
Por exemplo, considere um aplicativo de encontro que usa algoritmos para mapear usuários com base em suas preferências e interesses. Se, por padrão, ambos os parceiros são homens ou mulheres cisgêneros, isso pode levar à exclusão de pessoas não inocentes que não se identificam como homens ou mulheres. Da mesma forma, se a aplicação prioriza casais que compartilham opiniões religiosas ou políticas semelhantes, pode excluir pessoas com crenças diferentes.
Outra forma que as distorções algoritmicas podem aumentar a heteronormatividade é promover certos tipos de relações sobre outros.
Por exemplo, muitos aplicativos de encontros on-line oferecem funções como swipe para a direita ou para a esquerda por potenciais coincidências. Embora possa parecer inofensivo, na verdade pode estimular julgamentos superficiais baseados na aparência, em vez de fatores mais profundos de compatibilidade. Como resultado, pessoas que não se encaixam nos padrões tradicionais de beleza ou estão fora das faixas de idade típicas podem tentar encontrar parceiros adequados.
Além disso, alguns aplicativos permitem que os usuários escolham apenas um sexo na busca por correspondências potenciais, o que limita o conjunto de opções disponíveis e confirma a ideia de apenas dois sexos.
Finalmente, os deslocamentos algoritmicos também podem aumentar sutilmente as suposições heteronormativas usando a linguagem.
Por exemplo, termos como «marido» ou «esposa» podem aparecer automaticamente em mensagens de bate-papo entre dois usuários comparados. Isso reforça a ideia de que todas as relações são heterossexuais e monogâmicas, mesmo que muitas pessoas tenham preferências ou identidades diferentes. Da mesma forma, recomendações algoritmicas podem sugerir ações ou eventos que envolvam uma determinada orientação sexual ou estado civil. Estas suposições podem prejudicar aqueles que não se enquadram nestas categorias e fazê-las sentir-se excluídas da comunidade.
Então, como podemos resolver esses problemas? Uma das estratégias é fornecer opções mais inclusivas em algoritmos e funções.
Por exemplo, aplicativos de encontro podem oferecer várias opções de gênero e permitir que usuários personalizem critérios de busca para incluir atributos específicos, além apenas da identidade de gênero. Eles também poderiam evitar o uso da língua que sugere que todos os heteros ou casados. Outra abordagem consiste em informar os usuários sobre a existência de preconceito e seus efeitos sobre a experiência. Ao aumentar a conscientização, os usuários podem ser mais conscientes das escolhas que fazem e compreender quando aumentam as normas que excluem determinados grupos.
Finalmente, as plataformas devem dar prioridade à pesquisa e desenvolvimento para criar uma experiência mais diversificada e justa para todos os usuários.
Para terminar, enquanto preconceitos algoritmicos podem parecer inofensivos à primeira vista, eles podem realmente perpetuar estereótipos e exceções prejudiciais. Compreendendo como estes preconceitos funcionam e tomando medidas para mitigá-los, podemos criar espaços que realmente contribuam para a inclusão e diversidade.
Os deslocamentos algoritmicos podem aumentar sutilmente as suposições heteronormativas mesmo em espaços destinados à inclusão?
Segundo especialistas em ciência da computação, os deslocamentos algoritmicos podem realmente aumentar os pressupostos heteronormativos, independentemente da intenção do espaço de ser inclusivo. Os algoritmos são criados por pessoas que podem ter preconceitos inconscientes que influenciam o processo de tomada de decisões, o que pode levar à discriminação de determinados grupos, incluindo aqueles que se identificam como LGBT +.