W ostatnich latach postępy w dziedzinie sztucznej inteligencji (AI) zrewolucjonizowały sposób działania przedsiębiorstw i komunikowania się ludzi.
Mimo możliwości przekształcenia społeczeństwa, AI ma tendencję do utrwalania stronniczości, które mogą pozostać niezauważone, ale mogą znacząco wpływać na równość społeczną. W artykule omówiono, w jaki sposób systemy sztucznej inteligencji mogą nieumyślnie promować stereotypy i normy płci, które mogą niekorzystnie wpłynąć na niektóre grupy, oraz zaproponowano rozwiązania pozwalające ograniczyć takie tendencje przy jednoczesnym zachęcaniu do rozwoju technologicznego.
Niektóre algorytmy oprogramowania stosowane w aplikacjach AI, takie jak technologia rozpoznawania twarzy, asystenci głosowi i modele językowe, mogą kodować uprzedzenia zakorzenione w płci i tożsamości seksualnej.
Na przykład programy te są przeznaczone do rozpoznawania wzorców opartych na istniejących zbiorach danych, które mogą odzwierciedlać stereotypy płci. Algorytmy rozpoznawania twarzy są szkolone poprzez wizerunki białych twarzy mężczyzn, co prowadzi do stronniczości wobec kobiet i osób o kolorze. To samo dotyczy asystentów głosowych, takich jak Siri czy Alexa, których domyślne ustawienia zakładają męskie głosy, zmuszając ich do ignorowania pytań, gdy są adresowane przez kobiety. Modele językowe opierają się również na wcześniejszych danych tekstowych, które zazwyczaj odzwierciedlają heteronormatywne relacje męsko-żeńskie, prowadząc do ograniczonego zrozumienia płci pozamałżeńskiej i związków poza monogamią.
Uprzedzenia te mogą prowadzić do niesprawiedliwych wyników, w tym dyskryminacji w miejscu pracy, nierównego dostępu do opieki zdrowotnej i braku reprezentacji w edukacji. Skorygowanie takich odchyleń wymaga zatem bardziej zróżnicowanych zbiorów danych, zasad projektowania sprzyjających włączeniu społecznemu oraz stałego monitorowania. Przedsiębiorstwa powinny zapewnić, aby ich dane szkoleniowe obejmowały różne płci, rasy, wieki, typy ciała i orientacje w celu zminimalizowania uprzedzeń. Ponadto deweloperzy powinni uwzględniać ochronę prywatności, aby zapobiec wykorzystywaniu danych osobowych.
Wreszcie regularne testy i audyty mogą pomóc w zidentyfikowaniu i rozwiązaniu wszelkich nieświadomych błędów w systemie, promując równość bez tłumienia innowacji.
Podsumowując, systemy AI mogą promować normy płci i stereotypy, które utrwalają nierówności, jeśli nie są korygowane świadomymi wysiłkami. Zbierając różnorodne dane, stosując zasady projektowania sprzyjające włączeniu społecznemu oraz regularnie testując, przedsiębiorstwa i osoby fizyczne mogą tworzyć sprawiedliwe społeczeństwo, jednocześnie nadal wykorzystując postęp technologiczny.
Jakie są mechanizmy, za pomocą których systemy AI nieumyślnie utrwalają heteronormatywne lub cisnormatywne stronniczości i w jaki sposób można skorygować te stronniczości bez tłumienia innowacji?
AI algorytmy, pomimo ich nieodłącznej neutralności, mogą odtworzyć istniejące normy społeczne, jeśli są przeszkolone na danych, które nie są reprezentatywne dla wszystkich płci, orientacji seksualnych, lub tożsamości płci. Może to prowadzić do błędnych prognoz, decyzji i zaleceń, które mogą dalej utrwalać dyskryminację grup marginalizowanych. Aby rozwiązać ten problem, programiści muszą gromadzić bardziej zróżnicowane zbiory danych i zapewnić, że ich algorytmy są zaprojektowane z zachowaniem uczciwych zasad.