Nos últimos anos, a IA obteve avanços significativos que revolucionaram várias áreas, incluindo educação, saúde, finanças e até entretenimento. Uma das áreas em que a IA demonstrou grandes perspectivas é o tratamento da linguagem natural (PNL), que inclui a compreensão e a geração da linguagem humana. Esta tecnologia permitiu que os bate-bocas se comunicassem com usuários e assistentes virtuais como Siri e Alexa para responder a pedidos em tempo real.
Apesar desses avanços, há preocupações sobre como a PNL pode aumentar os estereótipos e preconceitos sociais em relação ao sexo.
O problema principal é que os algoritmos de NPLP aprendem com dados, e se os dados usados para treiná-los contêm um deslocamento, os modelos obtidos podem repetir esses preconceitos.
Por exemplo, quando você desenvolve respostas de bate-papo para atender o cliente, os desenvolvedores muitas vezes se baseiam em diálogos existentes entre clientes e representantes, o que pode refletir a atitude sexista das mulheres. Se o algoritmo de bate-papo aprender com esses dados, pode perpetuar esses estereótipos, levando a interações ofensivas ou inapropriadas com as clientes.
Além disso, como a maioria dos assistentes de voz são programados usando vozes masculinas, eles podem reforçar a crença de que os homens superam as mulheres, Além disso, sistemas de inteligência artificial também podem reproduzir normas nocivas de gênero, recomendando produtos ou serviços adequados aos papéis tradicionais de gênero.
Por exemplo, quando uma plataforma de compras online usa um algoritmo para recomendar itens de vestuário baseados nas preferências do usuário, isso pode oferecer roupas normalmente associadas a um sexo acima do outro. Da mesma forma, os sites de busca de emprego podem recomendar os cargos de acordo com o sexo e não com o conjunto de habilidades, o que limita a capacidade para determinados grupos.
Para resolver esses problemas, os pesquisadores ofereceram várias soluções, incluindo a coleta de conjuntos de dados mais variados e a implementação de medidas de proteção contra preconceito durante a formação do modelo. Eles também defendem diretrizes éticas e mecanismos de supervisão para regular o desenvolvimento da IA e garantir que ela esteja em conformidade com os valores sociais.
No entanto, alguns argumentam que lidar com esses problemas requer mudanças sociais mais amplas, porque a tecnologia por si só não consegue eliminar as normas e estereótipos de gênero enraizados.
Para terminar, embora as tecnologias de IA ofereçam muitas vantagens, seu potencial para aumentar os preconceitos de gênero deve ser cuidadosamente analisado. Ao garantir inclusão e justiça durante todo o processo de desenvolvimento, podemos usar todo o poder do PNL sem agravar as diferenças existentes.
Como é que as tecnologias de inteligência artificial podem não querer aumentar os estereótipos ou preconceitos sociais contra o sexo?
O uso da inteligência artificial (IA) mudou o nosso mundo de várias formas; desde saúde, entretenimento, transporte, educação até negócios, mas também tem a ver com os seus fracassos. Um deles é a tendência de que os algoritmos da IA perpetuem estereótipos nocivos para a sociedade. Em particular, verificou-se que eles aumentam os papéis negativos de gênero e as expectativas que podem impedir o progresso da igualdade de gênero.