Jakie kwestie etyczne wynikają z systemów rekomendacji w mediach społecznościowych opartych na sztucznej inteligencji w odniesieniu do reprezentacji queer?
Jak algorytmiczna przejrzystość może poprawić wyniki dla zmarginalizowanych społeczności?
Nie ma wątpliwości, że ludzie queer napotykają dyskryminację w wielu aspektach życia. Na przykład często spotykają się z wyższymi wskaźnikami zaburzeń zdrowia psychicznego, takich jak depresja i lęk spowodowany dyskryminacją. Niestety ta sama dyskryminacja istnieje w przestrzeniach internetowych, takich jak media społecznościowe. Ludzie queer mogą czuć się odizolowani i wykluczeni, jeśli ich doświadczenia nie są zgodne z tym, co jest uważane za „normalne" lub akceptowalne w społeczeństwie. Ta izolacja może prowadzić do wzrostu uczucia samotności i smutku. Jednym ze sposobów, w jaki media społecznościowe próbują walczyć z tym problemem, jest wykorzystanie systemów rekomendacji opartych na sztucznej inteligencji, mających na celu promowanie bardziej zróżnicowanych treści.
Systemy te zostały jednak skrytykowane za tworzenie dodatkowych problemów, ponieważ mogą utrwalać istniejącą dynamikę mocy.
Na przykład, jeśli system AI zaleca zawartość queer w oparciu o zachowanie użytkownika, może to zwiększyć heteronormatywne oczekiwania, a nie je kwestionować. Ponadto systemy te mogą nie być przejrzyste w sposobie formułowania zaleceń. Jak algorytmiczna przejrzystość może poprawić wyniki dla zmarginalizowanych społeczności, w tym osób queer?
Znaczenie przejrzystości algorytmicznej
Przejrzystość algorytmiczna odnosi się do dostarczania użytkownikom informacji o tym, dlaczego niektóre rodzaje treści są przez nich zalecane. Bez tych informacji użytkownicy mogą czuć, że są manipulowani przez platformę bez żadnych słów w tej sprawie. Trudno jest zaufać platformie, gdy nie wiesz, jak działają jej algorytmy. Przejrzystość pomaga budować zaufanie między platformą a jej użytkownikami, co może zachęcać ludzi ze wszystkich środowisk do regularnego korzystania z witryny lub aplikacji.
Przejrzystość pozwala użytkownikom zobaczyć, jak wykorzystywane są ich własne dane i potencjalnie je zmienić, jeśli nie zgadzają się z zaleceniami.
Na przykład, jeśli użytkownik uważa, że jego tożsamość queer jest ignorowana lub usuwana przez system, może chcieć odpowiednio dostosować swoje ustawienia. Jeśli użytkownik jest świadomy, jakie czynniki wpływają na formułowanie rekomendacji, może również pociągnąć platformę do odpowiedzialności, jeśli czynniki te nie reprezentują odpowiednio swoich interesów lub perspektyw.
Poprawa reprezentacji poprzez przejrzystość algorytmiczną
Istnieje kilka sposobów, aby platformy mediów społecznościowych mogły wdrożyć przejrzystość algorytmiczną w celu poprawy reprezentacji marginalizowanych społeczności. Jednym ze sposobów jest dostarczenie jasnych zaleceń co do rodzaju treści będzie i nie będzie zalecane. Może to obejmować przykłady treści LGBTQ +, które spełniają pewne kryteria, takie jak reprezentowanie różnych tożsamości, doświadczeń i relacji. Inną metodą jest stworzenie narzędzi dla członków społeczności do oceny treści w oparciu o jego dokładność, znaczenie i jakość, co pozwala queer ludzie do kształtowania algorytmu rekomendacji sami.
Wreszcie platformy mediów społecznościowych powinny dopilnować, aby ich systemy rekomendacji uwzględniały wiele czynników podczas składania sugestii, a nie tylko stawki za kliknięcie lub wskaźniki zaangażowania.
Ważne jest, aby zmiany te miały miejsce w kontekście większych wysiłków na rzecz zwalczania dyskryminacji queer ludzi w społeczeństwie. Platformy muszą zapewnić bezpieczną przestrzeń dla wszystkich użytkowników bez tokenizowania lub wykorzystywania osób queer. Ponadto firmy muszą współpracować z organizacjami LGBTQ +, aby zidentyfikować luki reprezentacyjne i współpracować nad bardziej integracyjnymi rozwiązaniami. Priorytetowo traktując różnorodność i integrację na każdym poziomie rozwoju, platformy społecznościowe mogą stworzyć środowisko, w którym każdy czuje się widoczny i ceniony przez to, kim są.
Jakie wyzwania etyczne wynikają z systemów rekomendacji opartych na sztucznej inteligencji w mediach społecznościowych dotyczących reprezentacji queer i w jaki sposób algorytmiczna przejrzystość może poprawić wyniki dla marginalizowanych społeczności?
Jedną z głównych kwestii etycznych wynikających z systemów rekomendacji opartych na sztucznej inteligencji w mediach społecznościowych jest potencjalna dyskryminacja społeczności marginalizowanych. Kiedy algorytmy są przeznaczone do badania preferencji użytkowników i polecania treści w oparciu o te preferencje, istnieje ryzyko, że mogą one utrwalać szkodliwe stereotypy i stronniczości.