Al considerar los posibles prejuicios en los sistemas de inteligencia artificial (IA), es importante considerar aquellos que pueden afectar a las personas que se identifican como lesbianas, gays, bisexuales, transgénero y queer/preguntas (LGBTQ +). Estos prejuicios pueden tener graves consecuencias para su seguridad, privacidad, acceso a la atención médica, oportunidades de empleo y más.
Sin embargo, existen varios mecanismos para detectar, mitigar y prevenir la perpetuación de estos sesgos en los sistemas de IA. En este artículo exploro cuán efectivos son estos mecanismos en la práctica.
Uno de los mecanismos para detectar el sesgo de la IA con respecto a las poblaciones LGBT es la auditoría. Esto incluye verificar el código del algoritmo y las fuentes de datos para ver si reflejan la diversidad de la población a la que están destinados a servir.
Por ejemplo, una empresa que desarrolla una aplicación de citas en línea puede contratar a una consultora independiente para evaluar si sus algoritmos incluyen términos relacionados con la identidad de género u orientación sexual que pueden excluir a ciertos usuarios. De ser así, el consultor recomendaría realizar cambios en el algoritmo para hacerlo más inclusivo. Otro método de detección es la prueba con diferentes grupos. El estudio, publicado en Nature, muestra cómo un equipo de investigadores probó un modelo de clasificación de imágenes utilizando rasgos faciales y descubrió que hacía predicciones inexactas sobre la orientación sexual basadas en estereotipos como barbas o aretes. Los resultados animaron a los investigadores a reevaluar el modelo con un conjunto de datos más amplio y representativo.
Otro enfoque para abordar el sesgo de la IA es analizar la equidad. Esto incluye medir el impacto de un determinado proceso de toma de decisiones en diferentes poblaciones. Un estudio de ProPublica encontró que el sistema de selección de personal de Amazon tiene menos probabilidades de seleccionar candidatas porque prefiere currículums en los que hay una palabra «ejecutiva» a aquellos que no la tienen. Al analizar el proceso de toma de decisiones, el estudio reveló un posible sesgo contra las mujeres. Como resultado, Amazon ha actualizado su sistema eliminando el término «ejecutivo». El análisis de la equidad también puede utilizarse para detectar prejuicios en otros ámbitos, como la justicia penal, la salud y la vivienda.
Para mitigar el sesgo de la IA, una de las estrategias es utilizar explicaciones contrafácticas. Explican por qué se tomó una decisión concreta y proponen alternativas que podrían llevar a un resultado diferente.
Por ejemplo, si un prestamista hipotecario utiliza la IA para determinar la solvencia crediticia, debe proporcionar una explicación de las decisiones que no son favorables para los solicitantes LGBT.
Por ejemplo, una explicación contrafáctica puede decir: «Si tus ingresos fueran 500 dólares más altos, tendrías derecho a este préstamo». Otra estrategia es implementar restricciones en los datos de entrada y parámetros algorítmicos.
Por ejemplo, un banco puede limitar el uso de un lenguaje específico para el género al determinar el derecho a un préstamo.
Además, hay varios pasos que las empresas pueden tomar para prevenir en primer lugar el sesgo de IA. Un enfoque es recopilar información demográfica sobre sus usuarios o clientes. Empresas como Google y Facebook exigen a sus desarrolladores que tengan en cuenta la diversidad a la hora de desarrollar productos, lo que ayuda a garantizar que sus sistemas no excluyan inadvertidamente a determinados grupos. Otra estrategia es utilizar una variedad de conjuntos de datos durante la formación del modelo para reducir el riesgo de estereotipos.
Finalmente, las empresas pueden incorporar directrices éticas en sus procesos de desarrollo de IA para ayudar a garantizar la equidad y la transparencia durante todo el proceso.
Si bien estos mecanismos existen para identificar, mitigar y prevenir el sesgo de IA con respecto a las poblaciones LGBT, su eficacia depende de varios factores. Algunos estudios sugieren que la auditoría por sí sola no puede eliminar por completo todas las formas de discriminación, porque los prejuicios pueden ser sutiles y difíciles de determinar. Otros estudios sugieren que la auditoría puede ser útil, pero requiere experiencia tanto en aprendizaje automático como en justicia social para ser efectiva. Las explicaciones contrafácticas no siempre pueden ser precisas o completas, y las restricciones pueden conducir a nuevos riesgos si son demasiado restrictivas. La creación de inclusividad en el proceso de diseño también puede requerir recursos y personal que entienda cómo las diferentes identidades se superponen con la tecnología.
En general, se requerirá un esfuerzo constante de los líderes de la industria, los políticos y los grupos de interés para garantizar que los sistemas de IA atiendan a todos de manera equitativa y equitativa.
¿Qué mecanismos existen para identificar, mitigar y prevenir el sesgo de la IA contra las poblaciones LGBT y cuán eficaces son en la práctica?
A pesar del creciente reconocimiento de las comunidades lesbianas, gays, bisexuales, transgénero (LGBT), todavía hay prejuicios en la inteligencia artificial (IA). Estos prejuicios se manifiestan como prejuicios basados en la identidad de género, orientación sexual, raza, edad, etnia, religión, apariencia, etc., que se pueden incrustar en los datos de aprendizaje utilizados para enseñar algoritmos. Diferentes investigadores han propuesto diferentes mecanismos para abordar el sesgo de IA con respecto a las poblaciones LGBT.