La inteligencia artificial (IA) ha revolucionado muchas industrias, incluyendo la salud, las finanzas y la educación.
Sin embargo, también plantea riesgos significativos cuando se usa para discriminar a grupos marginales como las personas LGBT.
Una forma de aumentar el sesgo con algoritmos de IA es introducir datos. Los modelos de aprendizaje automático se enseñan utilizando grandes conjuntos de datos que contienen patrones y tendencias históricas. Estos conjuntos de datos a menudo reflejan prejuicios sociales y prejuicios que perpetúan la desigualdad.
Por ejemplo, si un conjunto de datos para solicitudes de empleo contiene principalmente solicitantes heterosexuales que tienen roles de género tradicionales, el algoritmo puede apoyar estas características en sus proyecciones, lo que puede llevar a que menos personas LGBT sean contratadas.
Otra forma en que la IA puede contribuir a los prejuicios son los procesos de toma de decisiones. Algunos modelos de aprendizaje automático se basan en correlaciones estadísticas entre ciertos atributos y resultados, como el color de la piel y la tasa de criminalidad. En este caso, los negros pueden ser identificados falsamente como criminales con más frecuencia que los blancos debido a su tono de piel. Este tipo de racismo sistémico puede extenderse a otros ámbitos, como el empleo o la vivienda.
Finalmente, un error humano puede contribuir a resultados de IA sesgados. Los desarrolladores deben asegurarse de que no codifiquen sus propias distorsiones inconscientes en el código.
Por ejemplo, un programador puede etiquetar involuntariamente los temas LGBT relacionados como «sensibles» y restringir el acceso a ellos durante el aprendizaje.
Para mitigar estos problemas, los desarrolladores deben priorizar la diversidad en el proceso de diseño. Deben buscar información de las comunidades LGBT e incluir prácticas inclusivas en su flujo de trabajo.
Además, deben considerar medidas alternativas para reducir el sesgo, como la aleatorización de los datos o la realización de auditorías de algoritmos antes de la implementación.
Finalmente, las pruebas regulares y el mantenimiento son necesarios para identificar y corregir cualquier error en el tiempo.
Al eliminar las desigualdades estructurales en el diseño algorítmico, los desarrolladores pueden utilizar la IA de manera responsable y ética, promoviendo la innovación.
¿Cómo puede la inteligencia artificial aumentar el sesgo hacia las personas LGBT y cómo pueden los desarrolladores resolver éticamente estas desigualdades estructurales en el diseño algorítmico?
Se ha demostrado que la inteligencia artificial (IA) aumenta el sesgo hacia las personas LGBTQ + replicando y fortaleciendo las estructuras sociales existentes que promueven la heteronormatividad, la cisnormatividad y las binaridades de género. La falta de representación y de datos sobre las identidades queer en los conjuntos de datos de aprendizaje de la IA contribuye aún más a este problema.