Uprzedzenie algorytmiczne jest nieumyślne lub zamierzone stronniczość, która istnieje w algorytmach używanych do podejmowania decyzji lub przewidywania na podstawie zbiorów danych. Może to nastąpić, gdy niektóre grupy są niedostatecznie reprezentowane w tych zbiorach danych, co prowadzi do stronniczych wyników.
Jeśli algorytm jest wyszkolony na danych o ludziach, którzy mają tendencję do bycia białym i męskim, może to prowadzić do stronniczych wyników dla kobiet i osób o kolorze.
Pod względem dziwnej widoczności i stereotypów w Internecie, algorytmiczna stronniczość odgrywa ważną rolę w kształtowaniu reprezentacji i postrzegania dziwnych tożsamości. Ludzie queer często napotykają stereotypy i błędne pojęcia ze względu na swoją tożsamość, co może prowadzić do ich wykluczenia z głównego nurtu dyskursu.
Te stereotypy mogą również utrwalać się poprzez wyniki wyszukiwania, kanały społecznościowe i inne platformy internetowe, które opierają się na zaleceniach algorytmicznych. Ten artykuł przyjrzy się niektórym sposobom, w jaki algorytmiczna stronniczość przyczynia się do tego problemu.
Jednym ze sposobów, w jaki algorytmiczna stronniczość wzmacnia niewidzialność queer, jest jego wpływ na wyniki wyszukiwania. Gdy ktoś szuka informacji związanych z problemami LGBTQ +, może znaleźć strony internetowe z przestarzałymi lub niedokładnymi informacjami, a nawet artykuły zawierające mowę nienawiści lub szkodliwe stereotypy. To może stworzyć błędny cykl, w którym ludzie widzą tylko negatywne postrzeganie osobowości queer online i zakładają, że nie mają miejsca w społeczeństwie.
Ponieważ wiele społeczności queer zostały historycznie marginalizowane, brakuje im zasobów niezbędnych do zapewnienia ich reprezentacji w głównych wyszukiwarkach, takich jak Google czy Bing. Bez odpowiedniej reprezentacji, społeczności te pozostają niewidoczne dla wielu osób poszukujących informacji o nich online.
Stronniczość algorytmiczna może również rozprzestrzeniać szkodliwe stereotypy o dziwnych ludziach.
Kiedy algorytmy nadają priorytet niektórym rodzajom treści nad innymi, takimi jak filmy z cisgender białych mężczyzn angażujących się w homofobię, może to normalizować to zachowanie i sprawić, że będzie bardziej akceptowalne niż w rzeczywistości. Ten rodzaj stronniczości może być szczególnie problematyczny dla młodych ludzi queer, którzy mogą nie mieć dostępu do dokładnych informacji o swoich osobowościach gdzie indziej. Tworzy również środowisko, w którym queer ludzie czują się niebezpieczne wyrażając się swobodnie w Internecie z obawy, że są ukierunkowane przez grupy nienawiści lub trolle.
Uprzedzenia algorytmiczne mogą utrwalać pogląd, że dziwne osobowości są mniej godne reprezentacji niż heteronormatywne. Dzieje się tak, gdy platformy takie jak YouTube zalecają podobne treści oparte wyłącznie na przeglądaniu historii, a nie na rzeczywistym znaczeniu lub poziomie zainteresowania. Polecając treści oparte na tym, co już oglądano, a nie to, co ktoś chce oglądać, wzmacnia ideę, że treść queer nie jest wystarczająco ważna do aktywnego wyszukiwania. Przyczynia się to do cyklu, w którym użytkownicy nadal konsumują główne media, nigdy nie stojąc w obliczu różnych perspektyw lub narracji poza swoją strefą komfortu.
Uprzedzenia algorytmiczne mogą prowadzić do dyskryminacji dziwnych osób w aplikacjach randkowych lub innych mediach społecznościowych. Wiele popularnych aplikacji używa algorytmów, aby dopasować ludzi w oparciu o wspólne zainteresowania lub wygląd, które mogą wykluczyć dziwnych ludzi, którzy nie należą do tych kategorii.
Niektóre aplikacje wykorzystują dane z profili użytkowników i historii aktywności do sugerowania meczów opartych na cechach stereotypowych, dodatkowo marginalizując osoby, które nie spełniają tych oczekiwań.
Uprzedzenia algorytmiczne to tylko jeden z czynników przyczyniających się do niewidzialności queer i stereotypowania w Internecie; odgrywa jednak ważną rolę w kształtowaniu, jak te problemy się objawiają. Uznając to wyzwanie, możemy zacząć pracować nad stworzeniem bardziej integracyjnych i sprawiedliwych przestrzeni internetowych dla wszystkich tożsamości, w tym nieparzystych.
Jak algorytmiczna stronniczość utrwala niewidzialność queer lub stereotypy online?
Można zobaczyć z badań i badań, że queer ludzie często napotykają problemy podczas korzystania z platform społecznościowych ze względu na różne przyczyny, takie jak homofobia, transphobia i cissexism. Jednym z takich problemów jest obecność stronniczości algorytmicznej, która definiowana jest jako skłonność algorytmów do utrwalania stereotypów i wzmacniania istniejących stronniczości wobec dziwnych osób.