Observação algoritmica é uma prática de análise de dados do usuário para identificar padrões que podem ser usados para prever comportamentos ou preferências futuras. Nos últimos anos, esta tecnologia tem se tornado cada vez mais comum, especialmente em plataformas online, como redes sociais, aplicativos de encontro e sites de e-commerce. Embora isso possa proporcionar aos usuários uma experiência mais personalizada, também oferece riscos significativos para as comunidades marginalizadas, incluindo aqueles que se identificam como LGBT +.
Um dos principais problemas é o potencial de preconceito algoritmico, que acontece quando algoritmos são desenvolvidos de forma a reforçar os preconceitos sociais existentes.
Se um algoritmo é treinado para reconhecer certos comportamentos ou preferências como associados a pessoas heterossexuais, pode não representar exatamente uma comunidade quir. Isso pode levar à homofobia e transfobia, imortalizada por recomendações ou resultados de casamentismo gerados algoritmicamente.
Outro risco é enganar quando pessoas estranhas são forçadas a esconder sua identidade por medo de se tornarem alvo de algoritmos ou outros. Isto é particularmente relevante em países onde as relações entre pessoas do mesmo sexo são criminalizadas ou estigmatizadas. Ao restringir o acesso a comunidades queer, esses sistemas podem isolar ainda mais os participantes e impedir-lhes o acesso a recursos críticos ou redes de suporte.
A observação algoritmica pode representar uma ameaça direta à segurança, fornecendo informações confidenciais a terceiros.
Se alguém analisar o histórico de busca de pessoas quir que procuram conteúdo relacionado com o HIV/AIDS, elas podem potencialmente usar esse conhecimento para perseguir ou discriminar pessoas. Da mesma forma, os perfis dos aplicativos de encontro que incluem orientação sexual ou identidade de gênero podem ser acessados por indivíduos mal intencionados que querem causar danos.
Vigilância algoritmica, enganação e preconceito são uma ameaça séria para as comunidades queer na Internet. É importante que as empresas que desenvolvem essas tecnologias priorizem a privacidade e a inclusão dos usuários e que os seus produtos não marginalizem as populações mais vulneráveis. Como continuamos a depender da tecnologia de IA no nosso dia a dia, é fundamental que trabalhemos para criar espaços mais justos e seguros para todos os usuários.