Jednym z głównych wyzwań związanych z rozwojem sztucznej inteligencji jest jego potencjał do utrwalania stronniczości już istniejących w społeczeństwie, w tym tych opartych na tożsamości płci, rasie i orientacji seksualnej. Może to być szczególnie problematyczne dla członków zmarginalizowanych grup, którzy mogą stawić czoła dyskryminacji zarówno w ich codziennym życiu, jak i w ramach systemów grypy ptaków. Na szczęście opracowuje się kilka strategii mających na celu identyfikację i złagodzenie uprzedzeń wobec osób lesbijskich, gejowskich, biseksualnych i transseksualnych. (LGBT) populacje w algorytmach AI.
Jeśli chodzi o identyfikację, naukowcy stwierdzili, że niektóre rodzaje zbiorów danych wykorzystywanych do szkolenia modeli AI mogą przyczynić się do stronniczości.
Na przykład obrazy z udziałem osób LGBT mogą być niedostatecznie reprezentowane lub wprowadzane w błąd w zbiorach danych rozpoznawania obrazów, co prowadzi do błędów w systemach AI.
Ponadto wzory językowe powszechnie używane przez osoby LGBT mogą być również nieobecne w dużych modelach językowych, co prowadzi do braku zrozumienia podczas interpretacji tekstu generowanego przez takie systemy. Aby temu zaradzić, niektóre firmy pracują nad stworzeniem bardziej zróżnicowanych zbiorów danych i modeli metod uczenia się, które uwzględniają unikalne doświadczenia i indywidualność wszystkich osób.
Po zidentyfikowaniu należy wdrożyć interwencje mające na celu zmniejszenie stronniczości. Jedno podejście polega na wykorzystaniu technik uczenia maszynowego do wykrywania i korygowania wzorców w danych wskazujących na nieuczciwe traktowanie osób LGBT. Inna strategia polega na opracowaniu wskaźników uczciwości w celu zmierzenia, jak dobrze algorytm obsługuje różne podgrupy, umożliwiając programistom ocenę wpływu nowych funkcji lub zmian na istniejący kod.
Wreszcie eksperci zalecają wdrożenie procesów badań przesiewowych u ludzi, w których przeszkoleni profesjonaliści badają i oceniają wyniki badań w celu zapewnienia dokładności i uczciwości.
Metody te nie zawsze są jednak skuteczne w praktyce. W wielu przypadkach ich realizacja wymaga znacznych zasobów i wiedzy fachowej, które mogą być trudne dla małych organizacji do zapewnienia. Ponadto, nawet przy wszechstronnym wysiłku, trudno jest zagwarantować całkowite wyeliminowanie stronniczości bez dokładnego zrozumienia jej przyczyn i mechanizmów. W związku z tym konieczne będzie kontynuowanie badań i współpracy między naukowcami, specjalistami z branży i grupami adwokackimi w celu dalszej poprawy skuteczności tych interwencji w czasie.
Jakie mechanizmy są stosowane w celu zidentyfikowania i złagodzenia uprzedzeń wobec osób LGBT oraz jak skuteczne są te interwencje w praktyce?
Zaproponowano wiele metod identyfikacji i łagodzenia zakłóceń sztucznej inteligencji (AI), które mogą występować w algorytmach stosowanych przez firmy i organizacje. Jednym z wspólnych podejść jest przeprowadzanie analiz statystycznych zbiorów danych w celu zapewnienia, że nie zawierają one żadnych niezamierzonych stronniczości, takich jak te związane z rasą, płcią, orientacją seksualną, wiekiem lub statusem społeczno-gospodarczym. Inna metoda polega na wykorzystaniu algorytmów uczenia maszynowego, które mogą wykrywać wzorce w danych i potencjalnych źródłach flagi stronniczości.