W ostatnich latach wzrasta zainteresowanie potencjalnym negatywnym wpływem uprzedzeń algorytmicznych na platformy mediów społecznościowych, zwłaszcza jeśli chodzi o kwestie związane z rasą i płcią.
A co z algorytmicznymi uprzedzeniami, które subtelnie wzmacniają heteronormatywne założenia w przestrzeniach, które mają być integracyjne? Ten esej zajmie się tym pytaniem, przeanalizuje, w jaki sposób te stronniczości mogą przejawiać się w różnych kontekstach i omówi strategie mające na celu złagodzenie ich skutków.
Przede wszystkim ważne jest, aby zrozumieć, co oznacza „heteronormatyczność". Heteronormatyzm odnosi się do założenia, że wszystkie są proste, cisgender i monogamiczne. Sugeruje, że heteroseksualizm jest normą i że jakiekolwiek odchylenie od tego nie jest normalne. Algorytmiczne zniekształcenia mogą utrwalić tę wiarę nawet w przestrzeniach, które mają być integracyjne.
Weź na przykład pod uwagę aplikację randkową, która używa algorytmów do dopasowania użytkowników w oparciu o ich preferencje i zainteresowania. Jeśli obaj partnerzy są cisgender mężczyzn lub kobiet domyślnie, to może to prowadzić do wykluczenia osób nie-binarnych, które nie identyfikują się jako ani mężczyzna, ani kobieta. Podobnie, jeśli aplikacja traktuje priorytetowo pary, które mają podobne poglądy religijne lub polityczne, może wykluczyć ludzi o różnych przekonaniach. Innym sposobem, w jaki algorytmiczne zniekształcenia mogą zwiększyć heteronormatywność, jest promowanie pewnych rodzajów relacji nad innymi.
Na przykład, wiele online randki aplikacje oferują funkcje takie jak przesuwanie w prawo lub w lewo dla potencjalnych meczów. Chociaż może to wydawać się nieszkodliwe, może to rzeczywiście stymulować powierzchowne osądy oparte na wyglądzie, a nie głębsze czynniki kompatybilności. W rezultacie ludzie, którzy nie pasują do tradycyjnych standardów piękna lub są poza typowymi zakresami wiekowymi, mogą walczyć o znalezienie odpowiednich partnerów.
Ponadto niektóre aplikacje pozwalają użytkownikom wybrać tylko jedną płeć podczas wyszukiwania potencjalnych meczów, co ogranicza zakres dostępnych opcji i wspiera ideę posiadania tylko dwóch płci.
Wreszcie, uprzedzenia algorytmiczne mogą również subtelnie wzmocnić heteronormatywne założenia przy użyciu języka.
Na przykład terminy takie jak „mąż" lub „żona" mogą automatycznie pojawiać się w wiadomościach czatu między dwoma dopasowanymi użytkownikami. Wzmacnia to ideę, że wszystkie relacje są heteroseksualne i monogamiczne, mimo że wiele osób ma różne preferencje lub tożsamości. Podobnie, wytyczne algorytmiczne mogą sugerować działania lub zdarzenia, które sugerują szczególną orientację seksualną lub stan cywilny. Te założenia mogą zaszkodzić tym, którzy nie pasują do tych kategorii i sprawiają, że czują się wykluczone ze społeczności.
Jak więc rozwiązać te problemy? Jedną ze strategii jest zapewnienie bardziej integracyjnych opcji w algorytmach i funkcjach.
Na przykład, randki aplikacje mogą oferować wiele opcji płci i pozwalają użytkownikom dostosować kryteria wyszukiwania, aby zawierać konkretne atrybuty wykraczające poza tożsamość płci. Mogli też unikać używania języka, który sugeruje, że każdy jest hetero lub żonaty. Innym podejściem jest informowanie użytkowników o istnieniu stronniczości i jej wpływie na ich doświadczenia. Podnosząc świadomość, użytkownicy mogą stać się bardziej świadomi dokonywanych przez siebie wyborów i być świadomi, gdy wzmacniają normy, które wykluczają określone grupy.
Wreszcie platformy powinny priorytetowo traktować badania i rozwój, aby stworzyć bardziej zróżnicowane i sprawiedliwe doświadczenie dla wszystkich użytkowników.
Podsumowując, chociaż uprzedzenia algorytmiczne mogą wydawać się nieszkodliwe na pierwszy rzut oka, mogą one utrwalać szkodliwe stereotypy i wyjątki. Dzięki zrozumieniu, w jaki sposób te stronniczości działają i podejmowaniu kroków w celu ich złagodzenia, możemy stworzyć miejsca, które naprawdę promują integrację i różnorodność.
Czy uprzedzenia algorytmiczne mogą subtelnie wzmocnić założenia heteronormatywne nawet w pomieszczeniach przeznaczonych do włączenia społecznego?
Zdaniem informatyków uprzedzenia algorytmiczne mogą rzeczywiście wzmocnić heteronormatywne założenia, niezależnie od zamiaru włączenia przestrzeni. Algorytmy są tworzone przez osoby, które mogą mieć nieświadome uprzedzenia, które wpływają na proces decyzyjny, co może prowadzić do dyskryminacji niektórych grup, w tym osób, które identyfikują się jako LGBTQ +.