AI se puede utilizar para automatizar tareas que requieren procesamiento de lenguaje natural (NLP), como los chatbots de soporte al cliente. Estos chatbots a menudo se entrenan usando conjuntos de datos que contienen una gran cantidad de datos de varias fuentes, incluyendo publicaciones en redes sociales y foros en línea donde las personas discuten sus experiencias con respecto a la identidad de género. Cuando esto sucede, la IA puede reproducir involuntariamente percepciones erróneas o incluso estereotipos dañinos sobre las personas transgénero. Esto se debe a que los algoritmos que controlan estos sistemas confían en los patrones que encuentran en los datos de aprendizaje, y pueden terminar reforzando estos sesgos sin darse cuenta.
Por ejemplo, si un conjunto de datos contiene comentarios negativos sobre la apariencia de las personas transgénero, puede resultar en que el chatbot haga comentarios despectivos cuando se comunique con ellas. Del mismo modo, si un conjunto de datos incluye un lenguaje obsoleto o suposiciones sobre roles de género, el chatbot puede sacar conclusiones o juicios incorrectos basados en estos prejuicios. Otra forma en que la IA puede perpetuar malentendidos en torno a la identidad de género es mediante el reconocimiento visual. Se sabe que el software de reconocimiento facial combate la identificación de rostros no binarios debido a la falta de datos de aprendizaje completos sobre la expresión de género, además de las variantes binarias masculinas/femeninas. Esto puede conducir a prácticas excepcionales, como obligar a las personas a usar sus nombres legítimos en lugar de sus pronombres preferidos, lo que puede invalidar su identidad.
Además, la tecnología de reconocimiento facial se utiliza comúnmente en medidas de seguridad, como la inspección en el aeropuerto, lo que puede dar lugar a la discriminación de personas que no se ajustan a las ideas tradicionales de masculinidad o feminidad. El problema va más allá de los sistemas de IA. En algunos casos, los propios desarrolladores de IA pueden tener un sesgo inconsciente hacia ciertos sexos, lo que los lleva a desarrollar productos que potencien la dinámica de poder existente en la sociedad. Estos son solo algunos ejemplos de cómo la IA puede promover involuntariamente el sexismo y la cisnormatividad. Para combatir este problema, es importante que las empresas que desarrollan herramientas de IA recuerden su impacto potencial en los grupos marginados y aseguren que todas las voces se escuchen en el proceso de desarrollo. Los desarrolladores también deben trabajar en estrecha colaboración con expertos de comunidades insuficientemente representadas que puedan dar una idea de los principales problemas que deben resolverse antes de lanzar nuevos productos.
En general, a pesar de que la IA ofrece muchas oportunidades de innovación, debemos mantenernos vigilantes para evitar que refuerce los estereotipos nocivos relacionados con la identidad de género.
¿Cómo puede la IA reproducir inadvertidamente prejuicios o malentendidos sobre la identidad de género?
El uso de la inteligencia artificial (IA) puede conducir potencialmente a la perpetuación de prejuicios y percepciones erróneas sobre la identidad de género debido a que está influenciada por los datos utilizados para su aprendizaje. Estos datos pueden reflejar una actitud sesgada hacia la identidad de género, lo que puede llevar al sistema de IA a reproducir estos prejuicios en la toma de decisiones.