Las tecnologías de inteligencia artificial se utilizan cada vez más para interpretar y clasificar la identidad de género, pero pueden estar sujetas a prejuicios sociales que pueden conducir a resultados incorrectos o perjudiciales. Así sucede:
1) Los conjuntos de datos utilizados para enseñar algoritmos de inteligencia artificial pueden contener sesgos debido a actitudes históricas hacia ciertos géneros u orientación sexual.
Por ejemplo, si un conjunto de datos incluye imágenes de mujeres que realizan actividades tradicionales femeninas, como cocinar y limpiar, puede traer un algoritmo de inteligencia artificial para vincular estas tareas con la identidad de género femenina.
2) Los algoritmos que analizan los patrones del habla y las características vocales para definir la identidad de género también pueden depender de estereotipos culturales sobre cómo suenan los hombres y las mujeres. Esto puede llevar a la identificación errónea o a la discriminación de personas no binarias que no se ajustan a estos estereotipos.
3) El software de reconocimiento facial es otra área en la que pueden surgir prejuicios de género, especialmente cuando se trata de reconocer rasgos faciales neutros de género o personas transgénero cuya apariencia no coincide con el sexo que se les asignó al nacer.
4) Además del género, los algoritmos de inteligencia artificial también pueden perpetuar otras formas de desigualdad basadas en la raza, la edad, la condición de discapacidad y el origen socioeconómico.
Por ejemplo, un algoritmo diseñado para detectar emociones en imágenes de videovigilancia puede etiquetar falsamente a personas negras como agresivas o criminales con más frecuencia que a personas blancas.
5)
Finalmente, los sistemas de inteligencia artificial son desarrollados por personas que se adhieren a un sesgo, lo que puede reflejarse en la forma en que programan sus tecnologías. El sesgo en el desarrollo de la IA se debió a la insuficiente representación de las mujeres y las minorías en las industrias tecnológicas.
Para resolver estos problemas, los investigadores deben trabajar en la creación de conjuntos de datos más diversos y entrenar algoritmos de IA para reconocer expresiones de género anormales. Las empresas también deben auditar sus sistemas de IA para detectar sesgos e implementar medidas de protección para prevenir la discriminación.
En última instancia, la sociedad necesita desafiar las actitudes obsoletas hacia el género y la sexualidad para que todos se sientan vistos y respetados en nuestro mundo cada vez más digital.
¿Cómo pueden las tecnologías de inteligencia artificial reproducir prejuicios sociales en la interpretación o categorización de la identidad de género?
La inteligencia artificial (IA) se aprende de grandes cantidades de datos que reflejan patrones de comportamiento humano y prejuicios. Por lo tanto, los sistemas de IA pueden copiar los prejuicios presentes en el material original utilizado para su aprendizaje, incluidos los relacionados con la identidad de género.