A crescente popularidade da inteligência artificial (IA) tem um impacto significativo na forma como as pessoas interagem entre si na Internet, especialmente através de plataformas de redes sociais. Uma das áreas em que isso é mais evidente são os algoritmos de recomendação usados para personalizar a experiência dos usuários com base em suas preferências e comportamento.
No entanto, estes algoritmos também podem ter consequências involuntárias que limitam a diversidade e a inclusão, incluindo a representação de lésbicas, gays, bissexuais, transgêneros, quir/questionário (LGBT) e outros grupos marginais. Este artigo vai considerar como as recomendações baseadas na IA afetam a representação dos LGBT nas redes sociais, quais são as consequências éticas para as vítimas e como aumentar a transparência e a regulação pode melhorar a justiça e a inclusão.
Um exemplo do sistema de recomendação baseado em IA é a função «pessoas que você pode conhecer» no Facebook. Quando um usuário adiciona um amigo ou observa alguém novo, o Facebook analisa sua atividade e sugere outros que compartilham interesses semelhantes. Embora este algoritmo tenha sido útil para muitos, ele tem causado preocupação em algumas pessoas LGBT que acreditam ser mostradas por amigos e datas potenciais que não refletem sua orientação sexual ou identidade de gênero.
Por exemplo, se uma pessoa se identificar como não-independente, mas claramente não indica isso em seu perfil, o Facebook ainda pode mostrar conteúdo a eles de pessoas que se identificam como homens ou mulheres. Da mesma forma, se alguém está à procura de um parceiro na sua comunidade, pode não ver propostas que correspondam às suas preferências. Estas limitações podem causar um sentimento de isolamento e frustração, especialmente para aqueles que já enfrentam discriminação ou estigma relacionados com a sua sexualidade ou identidade de gênero.
A falta de transparência sobre como esses algoritmos funcionam é outro problema. Os usuários muitas vezes não sabem por que certos resultados aparecem, o que dificulta a compreensão de como afetar seus resultados. Sem explicações claras, os usuários têm poucas oportunidades de desafiar práticas preconceituosas ou injustas. Além disso, como estes sistemas dependem de técnicas de aprendizado de máquina que são constantemente aprendidas com o comportamento dos usuários, podem perpetuar os preconceitos presentes nos conjuntos de dados usados para aprendê-los sem que sejam aplicadas medidas de responsabilização.
Por exemplo, se a maioria dos posts com marcas gays for anexada a comentários negativos, o algoritmo pode associar a homossexualidade à negatividade e ajustar adequadamente. Este tipo de preconceito pode restringir ainda mais a representação dos LGBT, minimizando experiências positivas e fortalecendo estereótipos.
Melhorar a justiça e inclusão requer maior transparência e regulação. As plataformas de redes sociais devem fornecer informações detalhadas sobre como seus sistemas de recomendação funcionam e permitir que os usuários personalizem as configurações de acordo com suas necessidades. Eles também devem usar vários conjuntos de dados no treinamento de algoritmos para garantir precisão e imparcialidade.
Finalmente, os órgãos reguladores devem responsabilizar as empresas por práticas discriminatórias, impondo multas ou exigindo verificações regulares para avaliar a conformidade.
Como a IA está se tornando cada vez mais comum nas redes sociais, é importante considerar a sua influência sobre grupos marginais, como pessoas LGBT. Ao aumentar a transparência e a implementação de garantias adequadas, podemos criar um ambiente on-line mais justo, onde todas as pessoas tenham igual acesso a recursos e oportunidades.Com um esforço contínuo de maior integração, podemos usar a tecnologia para potencializar todos os membros da nossa sociedade, em vez de excluir qualquer grupo com base em identidade ou preferência.
Quais são as consequências éticas dos sistemas de recomendação de IA nas redes sociais para a representação dos LGBT e como a transparência e a regulação podem melhorar a justiça e a inclusão?
Os efeitos éticos dos sistemas de recomendação de IA sobre as plataformas de redes sociais para a representação de LGBT + foram amplamente discutidos por cientistas, advogados e políticos em todo o mundo. A transparência e a regulação são essenciais para aumentar a justiça e a inclusão nesses sistemas. Um dos principais problemas que as pessoas transgêneros enfrentam ao usar as recomendações de IA é a falta de visão nos dados utilizados para aprender algoritmos.