AI zrewolucjonizowała wiele aspektów społecznych, w tym mediów społecznościowych. Platformy takie jak Facebook, Instagram i TikTok w dużej mierze opierają się na algorytmach, aby spersonalizować doświadczenie użytkowników za pomocą systemów rekomendacji.
Systemy te spotkały się jednak z krytyką za niewłaściwe reprezentowanie społeczności queer, podnosząc etyczne obawy o sprawiedliwość i integrację. W artykule tym przeanalizowano wyzwania wynikające z wytycznych dotyczących sztucznej inteligencji dla osób queer i omówiono, w jaki sposób zwiększająca się przejrzystość algorytmiczna może promować uczciwą reprezentację.
Wyzwania Queer People Face on Social Media:
Platformy mediów społecznościowych stały się integralną częścią nowoczesnego życia, zapewniając przestrzeń komunikacji i ekspresji.
Jednak dziwnym ludziom trudno jest znaleźć społeczności wspierające i zobaczyć, jak odbijają się one w internecie. Algorytmy mogą nie rozpoznawać swoich interesów, preferencji i potrzeb, co skutkuje ograniczonym dostępem do odpowiednich treści i wykluczeniem z pozytywnych doświadczeń.
Na przykład, jeśli ktoś szuka „lesbijek" na YouTube, może zobaczyć heteroseksualne treści lub filmy, które nie są specjalnie dla nich zaprojektowane. Ten brak dokładnej reprezentacji może prowadzić do izolacji, zmniejszenia zaufania i zmniejszenia widoczności.
Dodatkowo algorytmy mogą utrwalać szkodliwe stereotypy o dziwności, promując negatywne narracje i ograniczając możliwości różnych głosów. Niektóre algorytmy wzmacniają nawet homofobię, transphobię i inne formy dyskryminacji prowadzące do nienawiści do mowy i nękania. Kwestie te nieproporcjonalnie wpływają na zmarginalizowane grupy w społeczności LGBTQ +, takie jak osoby kolorowe, osoby niepełnosprawne i osoby mieszkające na obszarach wiejskich.
Przejrzystość algorytmiczna może promować sprawiedliwość:
Aby rozwiązać te problemy, platformy mediów społecznościowych muszą priorytetowo traktować przejrzystość algorytmiczną, która odnosi się do zwiększenia dostępności i zrozumiałości systemów rekomendacji dla użytkowników. Obejmuje to wyjaśnienie, w jaki sposób działają algorytmy, dlaczego pojawiają się pewne zalecenia oraz jakie dane służą do personalizacji doświadczenia użytkownika. Dzięki zwiększeniu przejrzystości platformy mogą umożliwić użytkownikom poruszanie się po platformie, identyfikację stronniczości i podejmowanie świadomych decyzji o swoich doświadczeniach. Użytkownicy muszą mieć również kontrolę nad swoimi danymi z możliwością usuwania informacji, które nie odpowiadają ich tożsamości lub preferencjom.
Ponadto algorytmy muszą być zaprojektowane tak, aby uwzględniały intersekcjonalność poprzez jednoczesne rozpoznawanie różnych tożsamości i interesów.
Na przykład, jeśli użytkownik identyfikuje się jako queer i black, ich zalecenia powinny odzwierciedlać tę wielowątkową perspektywę. Platformy mogą włączać różnorodność do algorytmów, współpracując z organizacjami kierowanymi przez queer, zbierając informacje zwrotne od różnych społeczności oraz zapewniając reprezentację na wszystkich poziomach rozwoju i usług. Systemy rekomendacji z napędem sztucznym zrewolucjonizowały media społecznościowe, ale mogą wykluczyć ludzi queer.
Zwiększająca się przejrzystość algorytmiczna może jednak promować uczciwą reprezentację, umożliwiając użytkownikom dostęp do treści istotnych dla ich tożsamości i doświadczenia. Platformy powinny priorytetowo traktować projektowanie sprzyjające włączeniu społecznemu, gromadzić różnorodne perspektywy i zapewnić użytkownikom większą kontrolę nad swoimi danymi w celu stworzenia bezpiecznych i przyjaznych miejsc dla wszystkich.
Jakie wyzwania etyczne wynikają z systemów rekomendacji opartych na sztucznej inteligencji w mediach społecznościowych dotyczących reprezentacji queer i w jaki sposób algorytmiczna przejrzystość może poprawić sprawiedliwość i integrację?
Systemy rekomendacji oparte na sztucznej inteligencji dla platform społecznościowych przedstawiają kilka wyzwań etycznych w odniesieniu do reprezentacji queer, w szczególności w odniesieniu do spersonalizowanej reklamy i kuracji treści. Algorytmy mogą być zaprojektowane tak, aby sprzyjały niektórym rodzajom treści, które odwołują się do większości odbiorców, co może wykluczyć marginalizowane społeczności, takie jak osoby LGBTQ +. Stwarza to środowisko, w którym są mniej prawdopodobne, aby zobaczyć siebie dokładnie lub pozytywnie reprezentowane na tych platformach.