Wpływ algorytmów AI na widoczność, reprezentację i bezpieczeństwo użytkowników LGBTQ
Platformy mediów społecznościowych stały się integralną częścią nowoczesnego życia, umożliwiając miliardom ludzi łączenie się i dzielenie się swoimi doświadczeniami online.
Jednak wiele marginalizowanych społeczności stawia czoła unikalnym wyzwaniom, jeśli chodzi o reprezentowanie siebie i znajdowanie wsparcia za pośrednictwem tych platform. Jedną z takich grup jest społeczność LGBTQ, która doświadczyła historycznie dyskryminacji i przemocy ze względu na swoją orientację seksualną i tożsamość płciową. Ten artykuł bada, w jaki sposób algorytmy AI mogą wpływać na widoczność, reprezentację i bezpieczeństwo użytkowników LGBTQ w mediach społecznościowych.
Jeśli chodzi o widoczność, niektórzy twierdzą, że algorytmy są stronnicze wobec osób heteroseksualnych i cisgender, ponieważ wolą popularne treści, które pasują do dominujących norm kulturowych.
Na przykład, Facebook News Feed Algorytm nadaje priorytet postom od przyjaciół i członków rodziny, podczas gdy strona Explore Instagram promuje zdjęcia gwiazd i influencerów. W rezultacie osoby LGBTQ mogą z trudem odnaleźć swoje głosy w tych przestrzeniach, ograniczając możliwość wyszukiwania informacji lub budowania relacji z innymi, którzy mają podobne dane osobowe.
Ponadto algorytmy mogą wzmacniać stereotypy i utrwalać szkodliwe reprezentacje osób LGBTQ.
Na przykład algorytm TikTok często oferuje filmy zawierające trans kobiety noszące tradycyjnie kobiece ubrania, co oznacza, że jest to dla nich jedyny dopuszczalny sposób prezentacji. Podobnie, silnik rekomendacji YouTube często promuje filmy o „wychodzących" opowieściach, sugerując, że bycie gejem lub transseksualistą jest czymś, czego trzeba się wstydzić. Takie treści mogą normalizować negatywne nastawienie do osób nieheteronormatywnych i stworzyć środowisko, w którym kwitnie nękanie i mowa nienawiści.
Ponadto algorytmy mogą również nieumyślnie narażać użytkowników LGBTQ na niebezpieczne sytuacje.
Aplikacje randkowe, takie jak Grindr i Scruff, na przykład, zostały powiązane ze zwiększonym poziomem przemocy wobec osób queer, ponieważ drapieżniki wykorzystują dane lokalizacji do identyfikacji i zwalczania wrażliwych ofiar. Jednak jeśli algorytmy zostały zaprojektowane w celu ochrony prywatności użytkownika poprzez ukrywanie określonych lokalizacji, ryzyko to może zostać zmniejszone.
Podsumowując, algorytmy AI odgrywają ważną rolę w kształtowaniu doświadczeń mediów społecznościowych dla użytkowników LGBTQ. Podczas gdy mogą one poprawić widoczność i wzmocnić połączenie, mogą również ograniczyć reprezentację, promować szkodliwe stereotypy i narażać ludzi na ryzyko. Deweloperzy powinni zatem priorytetowo traktować budowanie integracyjnych i sprawiedliwych algorytmów wspierających wszystkie społeczności, w tym te, które są marginalizowane ze względu na swoją orientację seksualną lub tożsamość płciową.