¿Qué estructuras existen para identificar y mitigar el sesgo algorítmico contra las personas LGBT en la inteligencia artificial, y qué tan eficaces son en la práctica?
El sesgo algorítmico se refiere a la tendencia de los algoritmos de aprendizaje automático a producir resultados injustos basados en ciertas características, como raza, sexo, edad, orientación sexual, religión, etc. Esto puede ocurrir cuando los datos utilizados para enseñar estos algoritmos son desplazados o cuando los propios algoritmos contienen errores de codificación que los hacen tomar decisiones incorrectas. En los últimos años ha aumentado la conciencia de que el sesgo algorítmico puede afectar a grupos marginales como las personas LGBT, que pueden enfrentar discriminación en el empleo, la vivienda, la salud y otras áreas de la vida.
Para resolver este problema, se han propuesto varios marcos para identificar y mitigar el sesgo algorítmico con respecto a las personas LGBT en la inteligencia artificial. Un enfoque es desarrollar herramientas que controlen el rendimiento de los algoritmos en diferentes subgrupos dentro de una organización o industria.
Por ejemplo, Fairness Toolkit, desarrollado por IBM, proporciona un conjunto de métricas para medir la equidad de los modelos de aprendizaje automático en diferentes grupos, incluidos los representantes LGBT. Otro enfoque es el uso de métodos como la equidad contrafáctica, que implica modelar escenarios alternativos para determinar si se producirían resultados concretos si el grupo no estuviera sujeto a sesgos.
Además, algunos investigadores han sugerido el uso de enfoques «contradictorios» para neutralizar el sesgo algorítmico. Esto incluye el aprendizaje de un modelo enemigo que intenta predecir la salida de un sistema de IA dado, minimizando su precisión para subpoblaciones específicas. Al someter a este oponente al modelo original, aprende a generar predicciones más justas sin comprometer la precisión general.
Sin embargo, los críticos sostienen que este método puede tener consecuencias no deseadas y generar preocupaciones sobre la privacidad y la seguridad.
Sin embargo, a pesar de estos esfuerzos, la eficacia de los sistemas existentes sigue siendo limitada en la práctica. Muchas organizaciones están tratando de implementar estos métodos debido a la falta de recursos, experiencia o interés de las partes interesadas.
Además, a menudo hay prioridades competitivas y compromisos entre la equidad y otros factores como la precisión, la rentabilidad y la escalabilidad.
Por ejemplo, puede ser difícil para las empresas equilibrar la necesidad de predicciones precisas con el deseo de eliminar el sesgo hacia ciertos grupos.
En general, resolver el problema del desplazamiento algorítmico requiere un enfoque multilateral que incluya la cooperación entre el mundo académico, la industria, el gobierno y la sociedad civil. A pesar de los progresos realizados, aún queda mucho por hacer antes de que podamos eliminar por completo la discriminación en la inteligencia artificial.
¿Qué estructuras existen para identificar y mitigar el sesgo algorítmico contra las personas LGBT en la inteligencia artificial y cuán eficaces son en la práctica?
El problema del sesgo algorítmico con respecto a las personas LGBT no es nuevo; los investigadores saben desde hace tiempo que los sistemas de IA pueden perpetuar la discriminación basada en la orientación sexual y la identidad de género. Una de las bases para identificar estos prejuicios es el paradigma de «Privacidad y seguridad», que destaca los problemas de privacidad y seguridad como factores clave en la comprensión de los prejuicios. Esta estructura sugiere que los algoritmos de IA pueden reflejar sesgos implícitos en las fuentes de datos, incluyendo publicaciones en redes sociales, búsquedas en línea y artículos de noticias.