W jaki sposób technologie sztucznej inteligencji mogą nieumyślnie wzmacniać stronniczość społeczną w interpretowaniu lub kategoryzowaniu tożsamości płci?
Kwestia tego, jak sztuczna inteligencja (AI) może być wykorzystana do rozpoznawania, interpretowania lub kategoryzacji tożsamości płci, staje się coraz pilniejsza, ponieważ systemy te stają się powszechniejsze w naszym codziennym życiu. Podczas gdy AI może przynosić liczne korzyści społeczeństwu, istnieją również obawy, w jaki sposób może nieumyślnie wzmocnić istniejące normy społeczne i uprzedzenia związane z płcią. W tym artykule przeanalizujemy kilka możliwych sposobów.
Jednym z obszarów, w którym systemy AI mogą walczyć o dokładne reprezentowanie tożsamości płci, jest technologia rozpoznawania twarzy. Oprogramowanie do rozpoznawania twarzy często opiera się na zbiorach danych, które zostały przeszkolone za pomocą obrazów ludzi z przeważnie białych populacji cisgender. W rezultacie algorytm może nie rozpoznawać dokładnie twarzy należących do osób, które nie pasują do tej formy, w tym tych, które identyfikują się poza tradycyjnymi binariami płci.
Na przykład, transseksualne kobiety mogą być błędnie zidentyfikowane jako mężczyzna ze względu na ich rysy twarzy nie spełniające definicji zestawu treningowego, co stanowi kobiecość. Ponadto, nie-binarne twarze mogą być nieprawidłowo oznaczone jako mężczyzna lub kobieta, w zależności od tego, która opcja wybrać podczas konfiguracji. Podobnie, systemy sztucznej inteligencji zaprojektowane do analizy wzorców głosowych mogą również zmagać się z dokładnym rozpoznawaniem głosów ludzi, których mowa nie spełnia typowych oczekiwań co do ich ekspresji płciowej.
Kolejny problem z AI i uznaniem płci jest związany z przetwarzaniem języka. Algorytmy przetwarzania języka naturalnego (NLP) w dużej mierze opierają się na zapisanych i używanych danych językowych, które mogą zawierać seksistowskie lub homofobiczne określenia i wyrażenia. Jeśli system NLP jest wyszkolony na takich danych, może utrwalać szkodliwe stereotypy i zniekształcenia marginalizowanych społeczności.
Na przykład, jeśli system AI ma do czynienia z propozycją „dobrze gotuje", może zinterpretować ją jako bardziej pozytywną niż gdyby zamiast niej była „on". Wzmacnia to rolę płci i uprzedzenia dotyczące właściwego zachowania mężczyzn i kobiet.
W niektórych przypadkach stronniczość może również wystąpić, gdy systemy AI próbują klasyfikować lub klasyfikować przedmioty w oparciu o ich postrzeganą tożsamość płciową.
Na przykład oprogramowanie do rozpoznawania obrazów może błędnie klasyfikować niektóre rodzaje odzieży jako męskie lub żeńskie, co skutkuje niedokładnymi wynikami przy próbie identyfikacji płci użytkownika. Nawet pozornie neutralne produkty lub usługi mogą padać ofiarą takich błędów w etykietowaniu, potencjalnie odmawiając dostępu osobom niespełniającym tradycyjnych norm płci.
Aby rozwiązać te problemy, deweloperzy muszą dokładnie rozważyć, jak trenować i testować systemy AI pod kątem dokładności i włączenia. Powinny one zapewnić, aby zbiory danych szkoleniowych zawierały przykłady reprezentujące różne grupy i konteksty oraz aby nie opierały się wyłącznie na perspektywach i założeniach cisgender.
Ponadto muszą być przejrzyste co do potencjalnych stronniczości w swoich modelach, aby użytkownicy mogli podjąć kroki w celu złagodzenia jego skutków. Traktując priorytetowo praktyki projektowania sprzyjające włączeniu społecznemu, możemy zadbać o to, by technologie sztucznej inteligencji nie nieumyślnie wzmacniały stronniczości społecznej wokół tożsamości płci. Deweloperzy powinni traktować priorytetowo zasady projektowania sprzyjające włączeniu społecznemu, aby nie wzmacniać istniejących norm społecznych dotyczących tożsamości płci. Pomoże to stworzyć bardziej sprawiedliwy świat, w którym każdy jest traktowany z szacunkiem i godnością niezależnie od swojej tożsamości.
W jaki sposób technologie sztucznej inteligencji mogą nieumyślnie wzmacniać stronniczość społeczną w interpretowaniu lub kategoryzowaniu tożsamości płci?
Rozwój sztucznej inteligencji (AI) rozwija się szybko, wraz ze wzrostem aplikacji w różnych sektorach, w tym opieki zdrowotnej, finansów, edukacji, a ostatnio badań płci. Jedną z dziedzin, w których stosuje się AI, jest analiza tożsamości płci poprzez identyfikację cech, które są zwykle związane z każdą płcią.