Este artículo discute cómo el diseño de sistemas de inteligencia artificial (IA) puede codificar involuntariamente supuestos heteronormativos que representan creencias sobre roles de género y normas sexuales que reflejan valores tradicionales, a menudo patriarcales. Explora las diferentes formas en que tales prejuicios pueden manifestarse en la tecnología de IA y propone estrategias potenciales para detectarlas y corregirlas.
La heteronormatividad se refiere a la expectativa de que las personas se adhieran a ciertos roles de género y entren en relaciones románticas monógamas, heterosexuales, con los hombres generalmente ocupando posiciones dominantes dentro de estos arreglos. Estas suposiciones están profundamente arraigadas en muchas culturas y sociedades de todo el mundo y han estado respaldadas por siglos de socialización y procesamiento ideológico. Sin embargo, en los últimos años ha ido en aumento el reconocimiento de los efectos nocivos de las estructuras heteronormativas en las personas que no cumplen con estas normas, lo que se traduce en un aumento de las convocatorias para desmantelarlas.
Una de las áreas donde este problema es particularmente agudo es el desarrollo de sistemas de inteligencia artificial que dependen en gran medida de conjuntos de datos y algoritmos que pueden basarse en prejuicios culturales preexistentes.
Por ejemplo, los modelos de aprendizaje automático utilizados para generar chatbots o asistentes virtuales pueden incluir patrones de lenguaje y respuestas que sugieren una estructura de género binario, perpetuando estereotipos sobre la masculinidad y la feminidad. Del mismo modo, el software de reconocimiento facial puede luchar por la identificación precisa de los sexos no binarios, excluyéndolos de servicios y recursos importantes.
Afortunadamente, existen varias metodologías para detectar y corregir estos sesgos en los sistemas de inteligencia artificial. Un enfoque consiste en realizar un análisis de sensibilidad para evaluar cómo diferentes grupos demográficos pueden interactuar con el sistema e identificar posibles zonas ciegas o áreas de discriminación. Otra estrategia incluye el desarrollo de conjuntos de datos alternativos que reflejen perspectivas y experiencias más diversas, como personalidades transgénero o intersexuales.
Además, los investigadores pueden utilizar técnicas como el entrenamiento competitivo para exponer modelos de IA a escenarios que desafían sus suposiciones básicas, lo que les permite adaptarse y evolucionar en consecuencia.
En general, la solución al problema del desplazamiento heteronormativo en el diseño de la IA requiere tanto la conciencia de su ubicuidad como la creatividad a la hora de definir soluciones eficaces. Dando prioridad a la inclusión y la equidad en el desarrollo de la tecnología, podemos ayudar a crear un futuro en el que todas las personas puedan participar plenamente en nuestra sociedad cada vez más digital sin temor a la discriminación o la marginación.
¿Cómo puede el diseño de sistemas de IA codificar involuntariamente supuestos heteronormativos y qué metodologías existen para detectar y corregir estos prejuicios?
El término «heteronormatividad» se refiere a la creencia de que la heterosexualidad es la única orientación sexual aceptable que suele estar respaldada por instituciones sociales como las leyes matrimoniales y las estructuras familiares. Esto puede ser problemático cuando se trata de diseñar sistemas de inteligencia artificial (IA), ya que pueden codificar involuntariamente esta pendiente en sus algoritmos y procesos de toma de decisiones.