Identificación de sesgos en los sistemas de IA con respecto a las poblaciones LGBT
Una forma de detectar sesgos en los sistemas de IA es estudiar los conjuntos de datos utilizados para enseñarlos. Si el conjunto de datos no refleja con exactitud la diversidad de la población, puede dar lugar a resultados sesgados.
Por ejemplo, si un conjunto de datos incluye imágenes de parejas heterosexuales pero no de parejas del mismo sexo, un algoritmo entrenado en estos datos puede no ser capaz de reconocer parejas de gays y lesbianas. Para mitigar este tipo de sesgos, los investigadores pueden recopilar conjuntos de datos más diversos o complementar las muestras adicionales existentes.
Además, los algoritmos se pueden diseñar para tener en cuenta explícitamente el género y la orientación sexual en la toma de decisiones. Esto incluye la definición de las reglas para la interpretación de los datos por parte del sistema y los resultados correspondientes en diferentes situaciones.
Otro enfoque es auditar el código que subyace al sistema de inteligencia artificial. Al comprobar la lógica y los procesos de toma de decisiones del algoritmo, los investigadores pueden buscar patrones que indiquen un sesgo hacia grupos específicos. Entonces pueden cambiar el algoritmo para eliminar estos prejuicios.
Finalmente, probar un sistema de inteligencia artificial en datos reales puede ayudar a identificar cualquier consecuencia no intencional de su desarrollo. Al someter el sistema a diferentes escenarios, los investigadores pueden asegurar que produce resultados justos entre todas las poblaciones.
Estrategias para mitigar el sesgo en los sistemas de IA
Existen varias estrategias para mitigar el sesgo en los sistemas de IA con respecto a las poblaciones LGBT. Uno de los enfoques es el uso del aprendizaje contradictorio, que implica enseñar un algoritmo para reconocer y corregir predicciones incorrectas. Otra estrategia es desarrollar nuevos algoritmos especialmente diseñados para tratar casos ambiguos o complejos relacionados con la orientación sexual o la identidad de género. Estos algoritmos pueden incluir información contextual y normas sociales en el proceso de toma de decisiones.
Por último, los investigadores también pueden trabajar con partes interesadas de comunidades insuficientemente representadas para desarrollar conjuntamente soluciones adaptadas a sus necesidades.
Por ejemplo, un proveedor de atención médica puede colaborar con pacientes LGBT para crear un algoritmo que diagnostique con precisión las ITS en función de los síntomas. Al colaborar con los miembros de la comunidad, los investigadores pueden garantizar que el algoritmo resultante satisfaga las necesidades únicas de los grupos marginales.
En general, identificar y mitigar los sesgos en los sistemas de IA requiere un enfoque multifacético. Los investigadores deben tener en cuenta los datos utilizados para enseñar el algoritmo, cómo se escribe el código y las aplicaciones reales de la tecnología. Trabajando junto con diferentes partes interesadas, pueden crear sistemas más inclusivos y eficientes que atiendan a todos por igual.
¿Qué estructuras existen para detectar y mitigar los sesgos en los sistemas de IA con respecto a las poblaciones LGBT y cuán eficaces son estas estrategias?
Los investigadores han propuesto varias bases para identificar sesgos en los sistemas de inteligencia artificial (IA) que pueden afectar a lesbianas, gays, bisexuales y transexuales (LGBT). Uno de esos marcos es la estructura de la «diversidad en el diseño», que subraya la importancia de las diferentes perspectivas en el desarrollo de los sistemas de IA.