Rosnąca popularność sztucznej inteligencji (AI) ma znaczący wpływ na interakcje między ludźmi w internecie, zwłaszcza za pośrednictwem platform społecznościowych. Jeden obszar, w którym jest to najbardziej widoczne jest w algorytmy rekomendacji używane do personalizacji doświadczeń użytkowników w oparciu o ich preferencje i zachowania. Jednak te algorytmy mogą mieć niezamierzone konsekwencje, które ograniczają różnorodność i integrację, w tym jeśli chodzi o reprezentację lesbijek, gejów, biseksualistów, transseksualistów, queer/questing (LGBTQ) i innych marginalizowanych grup. Artykuł ten zbada, w jaki sposób zalecenia oparte na sztucznej inteligencji wpływają na reprezentację LGBTQ w mediach społecznościowych, jakie są konsekwencje etyczne dla osób, których dotyczą, oraz w jaki sposób większa przejrzystość i regulacja może poprawić sprawiedliwość i integrację.
Jednym z przykładów systemu rekomendacji opartego na AI jest funkcja Facebooka „ludzie, których znasz". Kiedy użytkownik dodaje znajomego lub śledzi kogoś nowego, Facebook analizuje ich działalność i sugeruje innym, którzy mają podobne zainteresowania. Chociaż algorytm był przydatny dla wielu, wzbudził obawy wśród niektórych osób LGBTQ, które uważają, że są one pokazywane przyjaciół i potencjalnych dat, które nie odzwierciedlają ich orientacji seksualnej lub tożsamości płciowej.
Na przykład, jeśli dana osoba identyfikuje się jako nie-binarne, ale nie wymienia go wprost na swoim profilu, Facebook nadal może pokazać im treści od osób, które identyfikują się jako mężczyzna lub kobieta. Podobnie, jeśli ktoś szuka partnera w swojej społeczności, może nie zobaczyć ofert, które pasują do ich preferencji. Ograniczenia te mogą prowadzić do poczucia izolacji i frustracji, zwłaszcza dla osób, które już doświadczają dyskryminacji lub piętna związanego z ich seksualnością lub tożsamością płciową.
Brak przejrzystości co do sposobu działania tych algorytmów to kolejny problem. Użytkownicy często nie wiedzą, dlaczego pojawiają się pewne wyniki, co utrudnia wiedzę, jak wpływać na ich wyniki. Bez jasnych wyjaśnień, użytkownicy mają niewiele możliwości, aby zakwestionować stronnicze lub nieuczciwe praktyki. Ponadto, ponieważ systemy te opierają się na technikach uczenia maszynowego, które nieustannie uczą się na zachowaniu użytkownika, mogą utrwalać uprzedzenia obecne w zbiorach danych wykorzystywanych do ich szkolenia bez stosowania środków rozliczalności.
Na przykład, jeśli negatywne komentarze są dołączone do większości postów z gejowskimi tagami, algorytm może kojarzyć homoseksualizm z negatywnością i odpowiednio poprawić. Ten rodzaj stronniczości może dodatkowo ograniczyć reprezentację LGBTQ poprzez zmniejszanie pozytywnych doświadczeń i wzmacnianie stereotypów.
Poprawa uczciwości i integracji wymaga większej przejrzystości i regulacji. Platformy mediów społecznościowych powinny dostarczać szczegółowych informacji na temat funkcjonowania ich systemów rekomendacji i umożliwiać użytkownikom dostosowywanie ustawień w oparciu o ich potrzeby. Muszą również korzystać z różnorodnych zbiorów danych podczas szkolenia algorytmów w celu zapewnienia dokładności i bezstronności.
Wreszcie organy regulacyjne powinny pociągać spółki do odpowiedzialności za praktyki dyskryminacyjne poprzez nakładanie grzywien lub wymaganie regularnych przeglądów w celu oceny zgodności.
Ponieważ AI staje się bardziej rozpowszechniona w mediach społecznościowych, ważne jest, aby rozważyć jej wpływ na zmarginalizowane grupy, takie jak osoby LGBTQ. Zwiększając przejrzystość i wdrażając odpowiednie zabezpieczenia, możemy stworzyć bardziej sprawiedliwe środowisko internetowe, w którym każdy ma równy dostęp do zasobów i szans. Dzięki ciągłym wysiłkom na rzecz integracji więcej, możemy wykorzystać technologię do wzmocnienia pozycji wszystkich członków naszego społeczeństwa, nie wykluczając żadnych grup opartych na tożsamości lub preferencji.
Jakie są etyczne konsekwencje systemów rekomendacji w zakresie mediów społecznościowych dla reprezentacji LGBTQ i w jaki sposób przejrzystość i regulacje mogą poprawić sprawiedliwość i integrację?
Etyczne konsekwencje systemów rekomendacji dla platform mediów społecznościowych dla reprezentacji LGBTQ + zostały szeroko omówione przez naukowców, rzeczników i decydentów na całym świecie. Przejrzystość i regulacja mają kluczowe znaczenie dla zwiększenia kapitału własnego i włączenia do tych systemów. Jednym z głównych problemów, z jakimi borykają się osoby transseksualne podczas korzystania z zaleceń dotyczących grypy ptaków, jest brak reprezentacji w danych wykorzystywanych do szkolenia algorytmów.