AI jest coraz częściej wykorzystywane w wielu różnych dziedzinach, w tym opieki zdrowotnej, finansów, edukacji, a nawet rozrywki. Podczas gdy AI zrewolucjonizowała te branże, istnieją obawy co do jego potencjału utrwalania stronniczości wobec niektórych grup ludzi. W szczególności naukowcy wyrazili obawy, że systemy SI mogą dyskryminować członków społeczności lesbijek, gejów, biseksualistów i transseksualistów (LGBT). Aby zmniejszyć to ryzyko, opracowano różne mechanizmy pozwalające zidentyfikować i rozwiązać problem uprzedzeń w systemach grypy ptaków.
Nie wiadomo jednak, jak skuteczne są te mechanizmy w praktyce.
Jednym z mechanizmów, który został zaproponowany w celu wykrycia stronniczości AI wobec populacji LGBT, jest audyt danych. Obejmuje to badanie danych wykorzystywanych do szkolenia systemu AI i zapewnienie, że jest on reprezentatywny dla wszystkich grup, w tym dla społeczności LGBT. Identyfikując luki w zbiorze danych, inżynierowie mogą podjąć kroki, aby ich modele nie dyskryminowały konkretnych podgrup.
Na przykład, jeśli model AI jest szkolony za pomocą obrazów medycznych par heteroseksualnych, ale nie par tej samej płci, to może być mniej dokładny w diagnozowaniu choroby wśród osób LGBT. Podobnie, jeśli model finansowy wykorzystuje heteroseksualne dane małżeńskie, ale ignoruje małżeństwo tej samej płci, może nie docenić potrzeb rodzin LGBT.
Innym podejściem do zmniejszenia uprzedzeń w zakresie grypy ptaków przeciwko populacjom LGBT jest szkolenie w zakresie uczciwości algorytmicznej. Polega to na szkoleniu algorytmów uczenia maszynowego w celu rozpoznania wzorców nierówności w danych i odpowiedniego dostosowania ich procesu decyzyjnego. Na przykład algorytm mający na celu przewidywanie stóp zatwierdzenia pożyczek może być szkolony na podstawie danych historycznych, z których wynika, że pożyczkodawcy częściej odmawiają pożyczek czarnym i hiszpańskim wnioskodawcom niż białym. Rozpoznając te wzory, algorytm może nauczyć się traktować wszystkich wnioskodawców uczciwie niezależnie od rasy lub przynależności etnicznej.
Trzeci mechanizm zmniejszania wpływu grypy ptaków na populacje LGBT to przegląd przeprowadzany przez ludzi. W tym podejściu, ludzie uczestniczą w procesie oceny wydajności systemów AI i etykietowania wszelkich przypadków, gdy wydają się stronniczy.
Na przykład, jeśli system AI konsekwentnie zaleca różne opcje leczenia dla mężczyzn i kobiet z tymi samymi schorzeniami, recenzenci mogą wkroczyć i poprawić problem. Przegląd ludzki może również pomóc w zidentyfikowaniu i rozwiązaniu innych rodzajów stronniczości, takich jak ageizm czy ableizm. Pomimo tych mechanizmów istnieją dowody na to, że systemy AI nadal dyskryminują członków społeczności LGBT. Ostatnie badania wykazały, że oprogramowanie do rozpoznawania twarzy jest bardziej prawdopodobne, aby błędnie zidentyfikować osoby transseksualne jako inną płeć niż osoby cisgender. Podobnie, raport Narodowego Instytutu Norm i Technologii (NIST) stwierdził, że technologia rozpoznawania głosu jest mniej dokładna w identyfikacji głosów kobiet w porównaniu z głosami mężczyzn. Wyniki te sugerują, że nawet najbardziej zaawansowane systemy grypy mogą nie być odporne na stronniczość wobec niektórych grup.
Ogólnie rzecz biorąc, chociaż poczyniono postępy w określaniu i łagodzeniu uprzedzeń w zakresie grypy ptaków przeciwko populacjom LGBT, istnieje wiele do zrobienia. Naukowcy, inżynierowie i decydenci polityczni muszą nadal opracowywać nowe metody i zapewnić ich skuteczne wdrożenie. Tylko wtedy możemy stworzyć prawdziwie integracyjne i sprawiedliwe systemy sztucznej inteligencji, które służą wszystkim członkom społeczeństwa w równym stopniu.
Jakie mechanizmy są stosowane w celu zidentyfikowania i złagodzenia uprzedzeń wobec osób LGBT oraz ich skuteczności w praktyce?
Obecnie istnieją różne narzędzia umożliwiające identyfikację i złagodzenie uprzedzeń w zakresie grypy ptaków przeciwko populacjom LGBT. Jednym z najpopularniejszych podejść jest wstępne przetwarzanie danych, które obejmuje czyszczenie i filtrowanie zbiorów danych w celu rozwiązania wszelkich potencjalnych błędów. Innym podejściem jest użycie algorytmów uczenia maszynowego, które mogą uczyć się na przykładach bezstronnych zbiorów danych. Ponadto można zastosować aktywne metody szkolenia w celu określenia wartości odstających w zbiorze danych szkoleniowych, które mogą wprowadzać stronniczość.