W ostatnich latach tendencja algorytmiczna stała się coraz ważniejszą kwestią, ponieważ technologia osiągnęła punkt, w którym może podejmować decyzje mające znaczący wpływ na życie ludzi. Istnieją liczne przykłady tego, w jaki sposób algorytmiczne podejmowanie decyzji może utrwalać istniejące stronniczości i prowadzić do niesprawiedliwych wyników, począwszy od algorytmów oceny zdolności kredytowej stosowanych do określania, kto otrzymuje kredyty i kredyty hipoteczne, po systemy rozpoznawania twarzy wykorzystywane do nadzoru i egzekwowania prawa.
Czy jednak jest to po prostu problem techniczny, czy też jest to także forma strukturalnej niemoralności? Esej ten zbada, czy algorytmiczną stronniczość można uznać za problem moralny i twierdzi, że jest to rzeczywiście forma strukturalnej niemoralności, która wymaga pilnego działania w celu rozwiązania. Po pierwsze, ważne jest, aby zrozumieć, czym jest strukturalna niemoralność. Niemoralność strukturalna odnosi się do sytuacji, w których jednostki i instytucje są systematycznie upośledzone przez swoją pozycję społeczną, często w oparciu o cechy takie jak rasa, płeć, klasa i orientacja seksualna. Innymi słowy, sugeruje nierówny podział zasobów, siły i możliwości w społeczeństwie. Stronniczość algorytmiczna jest ściśle związana z niemoralnością strukturalną, ponieważ wynika z stronniczości społecznych zakodowanych w systemach technologicznych. Kiedy algorytmy są szkolone na danych, które odzwierciedlają te stronniczości, mogą je replikować w swoich procesach decyzyjnych, prowadząc do niesprawiedliwych wyników dla niektórych grup.
Na przykład, jeśli algorytm punktacji kredytowej w dużym stopniu opiera się na kodach pocztowych, które korelują z dochodami i poziomem wykształcenia, może dyskryminować osoby o niskich dochodach lub mieszkające na obszarach o ubogich szkołach. Podobnie, systemy rozpoznawania twarzy mogą błędnie zidentyfikować ludzi o kolorze częściej niż białych ludzi, co prowadzi do przeceniania i niedokładnej identyfikacji.
Uprzedzenia algorytmiczne mają również skutki wykraczające poza poszczególne poziomy. Wzmacnia to istniejące struktury ucisku i tworzy nowe, utrwalając nierówności międzypokoleniowe. Na przykład dzieci rodziców, którym odmówiono pożyczek z powodu tendencyjnych praktyk udzielania pożyczek, mogą mieć trudności z dostępem do szkolnictwa wyższego i zapewnieniem zatrudnienia w późniejszym okresie życia, tworząc cykl ubóstwa międzypokoleniowego. Ponadto uprzedzenia algorytmiczne mogą pogłębić istniejące różnice, wzmacniając je na skalę, utrudniając im kwestionowanie za pomocą tradycyjnych środków, takich jak działania prawne lub reforma polityki. Podkreśla to pilną potrzebę zajęcia się tą kwestią, ponieważ nie tylko wpływa ona na jednostki, ale podważa wysiłki w zakresie sprawiedliwości społecznej zmierzające do stworzenia bardziej sprawiedliwego świata.
Dlatego jasne jest, że uprzedzenie algorytmiczne jest kwestią moralną, która wymaga uwagi.
Nie chodzi jednak tylko o korygowanie błędów technicznych; wymaga raczej całościowego podejścia, które zajmuje się podstawowymi przyczynami strukturalnej niemoralności. Jednym ze sposobów na to jest zapewnienie, aby algorytmy były opracowywane i wykorzystywane w sposób przejrzysty, przy czym funkcjonują mechanizmy odpowiedzialności publicznej i nadzoru. Obejmie to zaangażowanie społeczności dotkniętych problemami w rozwój, zapewnienie dostępu do danych i procesów decyzyjnych oraz zapewnienie mechanizmów informacji zwrotnych i rekompensat w przypadku wykrycia uprzedzeń. Kolejnym ważnym krokiem jest dywersyfikacja zespołów opracowujących te technologie, zapewniając, że odzwierciedlają one różne perspektywy niezbędne do zidentyfikowania potencjalnych tendencji.
Wreszcie, konieczne są inwestycje w algorytmiczne badania kapitałowe, aby lepiej zrozumieć, jak rozwijać bardziej sprawiedliwe systemy.
Podsumowując, stronniczość algorytmiczna to nie tylko problem techniczny, ale forma niemoralności strukturalnej, która utrwala istniejące nierówności i tworzy nowe. Rozwiązanie tego problemu wymaga zintegrowanego podejścia obejmującego przejrzysty rozwój, nadzór wspólnotowy, zaangażowanie społeczności oraz inwestycje w badania nad kapitałem własnym. Brak działania mógłby jeszcze bardziej wzmocnić istniejące struktury energetyczne i podważyć wysiłki na rzecz stworzenia bardziej sprawiedliwego społeczeństwa.
Czy uprzedzenia algorytmiczne można uznać za formę strukturalnej niemoralności?
W ostatnich latach wzrasta zainteresowanie kwestią uprzedzeń algorytmicznych, zwłaszcza w odniesieniu do algorytmów decyzji stosowanych przez firmy techniczne, takie jak Google i Facebook. Algorytmy te mają na celu podejmowanie decyzji w oparciu o ogromne ilości danych, ale mogą również replikować i wzmacniać istniejące stronniczości społeczne, takie jak rasizm i seksizm.