IA se utiliza cada vez más en muchas áreas diferentes, incluyendo salud, finanzas, educación e incluso entretenimiento. Aunque la IA ha revolucionado estas industrias, hay preocupaciones sobre su potencial para perpetuar prejuicios contra ciertos grupos de personas. En particular, los investigadores han expresado su preocupación de que los sistemas de IA puedan discriminar a los miembros de la comunidad lesbiana, gay, bisexual y transgénero (LGBT). Para reducir este riesgo, se han desarrollado diversos mecanismos para identificar y eliminar los sesgos en los sistemas de IA.
Sin embargo, no está claro en qué medida estos mecanismos son eficaces en la práctica.
Uno de los mecanismos que se ha propuesto para detectar el sesgo de IA con respecto a las poblaciones LGBT es la auditoría de datos. Esto incluye estudiar los datos utilizados para enseñar el sistema de IA y asegurar que sea representativo de todos los grupos, incluidos los de la comunidad LGBT. Al identificar cualquier brecha en el conjunto de datos, los ingenieros pueden tomar medidas para garantizar que sus modelos no discriminen a subgrupos específicos.
Por ejemplo, si un modelo de IA se aprende usando imágenes médicas de parejas heterosexuales, pero no de parejas del mismo sexo, entonces puede ser menos preciso en el diagnóstico de enfermedades entre personas LGBT. Del mismo modo, si el modelo financiero utiliza datos sobre el matrimonio heterosexual pero ignora el matrimonio entre personas del mismo sexo, puede subestimar las necesidades de las familias LGBT.
Otro enfoque para reducir el sesgo de IA con respecto a las poblaciones LGBT es enseñar justicia algorítmica. Esto incluye entrenar algoritmos de aprendizaje automático para reconocer patrones de desigualdad en los datos y ajustar su toma de decisiones en consecuencia.
Por ejemplo, un algoritmo diseñado para predecir el nivel de aprobación de préstamos puede ser entrenado sobre datos históricos que muestran que los prestamistas son más propensos a denegar préstamos a solicitantes negros y latinos que los blancos. Reconociendo estos patrones, el algoritmo puede aprender a tratar equitativamente a todos los solicitantes sin importar su raza o etnia.
El tercer mecanismo para reducir el sesgo de IA con respecto a las poblaciones LGBT es la revisión humana. En este enfoque, las personas participan en el proceso de evaluar el rendimiento de los sistemas de IA y etiquetar cualquier caso en el que parezcan sesgados.
Por ejemplo, si el sistema de IA recomienda consistentemente diferentes opciones de tratamiento para hombres y mujeres con las mismas enfermedades, los revisores pueden intervenir y corregir el problema. La revisión humana también puede ayudar a identificar y eliminar otros tipos de sesgo, como el ejismo o el ableísmo.
A pesar de estos mecanismos, hay evidencia de que los sistemas de IA siguen discriminando a los miembros de la comunidad LGBT. Un estudio reciente encontró que es más probable que el software de reconocimiento facial identifique erróneamente a las personas transgénero como un sexo diferente al de las personas cisgénero. Asimismo, un informe del Instituto Nacional de Estándares y Tecnología (NIST, por sus siglas en inglés) reveló que la tecnología de reconocimiento de voz era menos precisa en la identificación de las voces femeninas en comparación con las masculinas. Estos resultados sugieren que incluso los sistemas de IA más modernos pueden no ser inmunes al sesgo hacia ciertos grupos.
En general, aunque se ha avanzado en la identificación y mitigación de los sesgos de IA con respecto a las poblaciones LGBT, queda mucho por hacer. Los investigadores, ingenieros y políticos deben continuar desarrollando nuevas técnicas y asegurar la implementación efectiva de las existentes. Sólo entonces podremos crear sistemas de IA verdaderamente inclusivos y justos que sirvan a todos los miembros de la sociedad por igual.
¿Qué mecanismos existen para detectar y mitigar los prejuicios de la IA contra las poblaciones LGBT y cuán eficaces son en la práctica?
Actualmente existen diversos instrumentos para detectar y mitigar el sesgo de la IA con respecto a las poblaciones LGBT. Uno de los enfoques más populares es el pretratamiento de datos, que incluye la limpieza y filtrado de conjuntos de datos para eliminar cualquier posible desviación. Otro enfoque es el uso de algoritmos de aprendizaje automático que pueden aprender de ejemplos de conjuntos de datos imparciales. Además, se pueden utilizar técnicas activas de aprendizaje para identificar las emisiones en un conjunto de datos de aprendizaje que pueden contribuir al desplazamiento.