IA è sempre più utilizzato in molti settori, tra cui salute, finanza, istruzione e persino intrattenimento. Sebbene l'IA abbia rivoluzionato questi settori, ci sono preoccupazioni circa il suo potenziale di perpetuare pregiudizi nei confronti di determinati gruppi di persone. In particolare, i ricercatori hanno espresso preoccupazione per il fatto che i sistemi di intelligenza artificiale possano discriminare le persone lesbiche, gay, bisessuali e transgender (LGBT). Per ridurre questo rischio, sono stati sviluppati diversi meccanismi per identificare ed eliminare i pregiudizi nei sistemi di IA.
Tuttavia, non è chiaro quanto questi meccanismi siano efficaci in pratica.
Uno dei meccanismi proposti per individuare i pregiudizi dell'IA nei confronti delle popolazioni LGBT è il controllo dei dati. Ciò include lo studio dei dati utilizzati per l'apprendimento dell'intelligenza artificiale e la garanzia che sia rappresentativa di tutti i gruppi, compresa la comunità LGBT. Individuando eventuali lacune nel set di dati, gli ingegneri possono prendere misure per garantire che i loro modelli non discriminino specifici sottogruppi.
Ad esempio, se un modello di IA viene studiato utilizzando immagini mediche di coppie eterosessuali, ma non di coppie dello stesso sesso, può essere meno preciso nella diagnosi di malattie tra persone LGBT. Allo stesso modo, se il modello finanziario utilizza i dati sui matrimoni eterosessuali, ma ignora i matrimoni gay, potrebbe sottovalutare le esigenze delle famiglie LGBT.
Un altro approccio per ridurre il pregiudizio dell'IA nei confronti delle popolazioni LGBT è l'apprendimento della giustizia algoritmica. Ciò include l'apprendimento da parte degli algoritmi di apprendimento automatico a riconoscere gli schemi di disuguaglianza dei dati e a correggerli in modo appropriato.
Ad esempio, un algoritmo progettato per prevedere il livello di approvazione dei prestiti può essere addestrato su dati storici che dimostrano che i creditori hanno più probabilità di rifiutare prestiti ai richiedenti neri e ispanici che ai richiedenti bianchi. Riconoscendo questi schemi, l'algoritmo può imparare a trattare equamente tutti i richiedenti, indipendentemente dalla razza o dall'etnia.
Il terzo meccanismo per ridurre i pregiudizi dell'IA nei confronti delle popolazioni LGBT è una panoramica umana. In questo approccio le persone sono coinvolte nel processo di valutazione delle prestazioni dei sistemi di IA e di etichettatura di ogni caso in cui sembrano pregiudicati.
Ad esempio, se il sistema IA consiglia costantemente diverse opzioni di trattamento per uomini e donne con le stesse malattie, i revisori possono intervenire e risolvere il problema. La revisione umana può anche aiutare a identificare ed eliminare altri tipi di pregiudizi, come l'eijismo o l'ableismo.
Nonostante questi meccanismi, ci sono prove che i sistemi di IA continuano a discriminare i membri della comunità LGBT. Uno studio recente ha dimostrato che il software di riconoscimento facciale ha più probabilità di identificare erroneamente i transgender come un sesso diverso rispetto alle persone cisgender. Allo stesso modo, un rapporto del National Institute for Standards and Technology (NIST) ha dimostrato che la tecnologia di riconoscimento vocale era meno accurata nell'identificazione delle voci femminili rispetto a quelle maschili. Questi risultati dimostrano che anche i sistemi di IA più avanzati possono non essere immuni da pregiudizi nei confronti di determinati gruppi.
In generale, mentre sono stati fatti progressi nell'individuazione e nell'attenuazione dei pregiudizi dell'IA nei confronti delle popolazioni LGBT, c'è molto da fare. Ricercatori, ingegneri e politici devono continuare a sviluppare nuove tecniche e garantire un'efficace implementazione di quelle esistenti. Solo così saremo in grado di creare sistemi di IA davvero inclusivi ed equi che servano tutti i membri della società allo stesso modo.
Quali sono i meccanismi per individuare e mitigare i pregiudizi dell'IA nei confronti delle popolazioni LGBT e quanto sono efficaci in pratica?
Attualmente ci sono diversi strumenti per identificare e mitigare i pregiudizi dell'IA nei confronti delle popolazioni LGBT. Uno degli approcci più popolari è il pre-elaborazione dei dati, che include la pulizia e il filtraggio di set di dati per eliminare eventuali anomalie. Un altro approccio è quello di utilizzare algoritmi di apprendimento automatico che possono imparare da esempi di dataset non imparziali. Inoltre, i metodi di apprendimento attivi possono essere utilizzati per identificare le emissioni in un set di dati di apprendimento che possono creare uno spostamento.