Internet jest coraz ważniejszym aspektem codziennego życia, zwłaszcza dla osób LGBTQ +, które mogą doświadczać dyskryminacji i uprzedzeń w przestrzeni fizycznej. Mimo wysiłków na rzecz stworzenia bardziej integracyjnych przestrzeni internetowych nadal istnieje jednak ryzyko, że uprzedzenia algorytmiczne mogłyby wzmocnić heteronormatywne założenia i przyczynić się do nierówności. Ten artykuł spojrzy na to, jak algorytmy mogą subtelnie sprzyjać cisgender i heteroseksualistom, nawet w środowiskach wirtualnych, które mają być przyjazne dla wszystkich tożsamości. W tym celu omówi koncepcję stronniczości i sposób, w jaki mogą one grać w platformach cyfrowych, przeanalizuje studia przypadków z popularnych aplikacji, takich jak Grindr i OkCupid, oraz zalecenia dotyczące tworzenia bardziej równych przestrzeni internetowych dla wszystkich.
Ogólnie rzecz biorąc, ten utwór ma na celu podkreślenie wyzwań stojących przed społecznością queer w nawigacji randki cyfrowe i socjalizacji, i opowiedzieć się za większą świadomością i działania. Dzięki zrozumieniu, jak funkcjonują stronniczości, możemy pracować nad stworzeniem bardziej integracyjnych doświadczeń online, które promują sprawiedliwość i równość dla wszystkich.
Algorytmy to ważne narzędzia używane przez wiele stron internetowych i aplikacji do sortowania informacji, ułatwiania komunikacji i optymalizacji doświadczenia użytkowników. Obejmują one zestaw instrukcji lub zasad, które prowadzą maszyny poprzez konkretne zadania, co czyni je przydatne dla zautomatyzowanych procesów, takich jak przewidywanie wyników wyszukiwania, ranking produktów na podstawie ocen klientów, lub kuratorium spersonalizowanych wiadomości. Chociaż systemy te mogą być niesamowicie przydatne, mają również potencjał stronniczości - niezamierzone, ale wspólne preferencje, które mogą nieuczciwie dać przewagę niektórym grupom nad innymi. Na przykład, jeśli chodzi o randki online, algorytm może priorytetowo traktować profile z konkretnymi słowami kluczowymi, obrazami lub cechami, co skutkuje meczami, które odzwierciedlają normatywne idee dotyczące płci, seksualności, rasy lub typu ciała. Kiedy założenia te są kodowane do oprogramowania przeznaczonego dla każdego, mogą mieć daleko idące konsekwencje dla tych, którzy szukają połączeń poza tradycyjnymi normami. Jednym z ważnych przykładów jest Grindr, popularna aplikacja gejowska, która stoi w obliczu krytyki za rzekomy rasizm i ageizm. Użytkownicy mogą otrzymywać mniej wiadomości, jeśli mają „kobiece" cechy lub są ponad 35, według raportu 2018 dziennikarza Michaela Kelly. Sugeruje to, że algorytmy Grindra sprzyjają pewnym atrybutom fizycznym, wykluczając jednocześnie inne oparte na arbitralnych kryteriach. Podobnie, OkCupid został oskarżony o wyświetlanie rasowo stronniczych wyników dopasowania wyników, skłaniając firmę do wydania przeprosin i zmiany algorytmu, aby rozwiązać problem. Oba przypadki podkreślają, że pozornie neutralna technologia może utrwalać dyskryminację i usuwanie, co powoduje, że niektórzy użytkownicy czują się marginalizowani lub odrzucani w innym postępującym środowisku.
Aby stworzyć sprawiedliwszą przestrzeń cyfrową, programiści muszą podjąć kroki w celu zidentyfikowania i rozwiązania błędów w swoich algorytmach. Jedna z strategii polega na zróżnicowaniu zbiorów danych wykorzystywanych do szkolenia modeli uczenia maszynowego, zapewniając, że szeroki wachlarz tożsamości, doświadczeń i perspektyw napędza procesy decyzyjne. Innym podejściem jest promowanie odpowiedzialności poprzez informację zwrotną i zaangażowanie społeczności poprzez pozyskiwanie informacji od użytkowników w celu zapewnienia, że algorytmy odpowiadają potrzebom i preferencjom wszystkich ludzi.
Wreszcie, przedsiębiorstwa powinny inwestować w edukację antydyskryminacyjną i wsparcie dla pracowników pracujących nad tymi systemami, umożliwiając im rozpoznawanie i korygowanie potencjalnych uprzedzeń przed spowodowaniem szkody. Podejmując takie proaktywne działania, możemy zwalczać podstępne skutki uprzedzeń algorytmicznych i promować integrację na platformach internetowych.
Czy uprzedzenia algorytmiczne mogą subtelnie wzmocnić heteronormatywne założenia nawet w przestrzeniach internetowych zaprojektowanych z myślą o włączeniu społecznym?
Chociaż wiele przestrzeni internetowych jest obecnie celowo tworzonych z naciskiem na integrację społeczną, istnieją dowody na to, że niektóre z tych platform mogą jeszcze subtelnie wzmacniać heteronormatywne założenia poprzez ich algorytmiczną konstrukcję. Jednym ze sposobów na to może być włączenie kodowanego języka, który sugeruje normy płci w czatach, wyszukiwarkach i innych systemach AI.