Systemy rekomendacji AI na platformach społecznych stają się coraz bardziej popularne wśród użytkowników LGBTQ, którzy chcą połączyć się z innymi, którzy mają podobne zainteresowania i doświadczenia.
Systemy te stanowią jednak również poważne wyzwanie dla budowania społeczności ze względu na ich skłonność do wzmacniania dyskryminacyjnych izb echo, które marginalizują głosy queer. Użytkownicy Queer mogą spotkać się z treścią homofobiczną i transphobową, która normalizuje uprzedzenia wobec nich, otrzymując jednocześnie wskazówki dotyczące treści, które są nieistotne lub niedokładne w odniesieniu do ich doświadczeń życiowych. Może to prowadzić do poczucia izolacji, frustracji i frustracji w społecznościach internetowych.
Jednym z potencjalnych rozwiązań jest przejrzystość algorytmiczna, która obejmuje zapewnienie użytkownikom dostępu do danych i algorytmów wykorzystywanych do formułowania zaleceń. Dzięki zrozumieniu sposobu działania tych systemów użytkownicy mogą lepiej monitorować swoje doświadczenia online i lepiej dostosować je do ich potrzeb.
Ponadto większa przejrzystość może pomóc zidentyfikować błędy w samym systemie i wywołać niezbędne zmiany, aby je naprawić.
Na przykład, jeśli użytkownicy stale otrzymują zalecenia dotyczące relacji heteronormatywnych, może to wskazywać na konieczność dostosowania parametrów algorytmu.
Jednak wdrożenie algorytmicznej przejrzystości nie jest bez własnego zestawu problemów. Wprawdzie umożliwiłoby to użytkownikom większą obecność w Internecie, ale wymagałoby to również znacznych nakładów i zasobów ze strony przedsiębiorstw zajmujących się mediami społecznościowymi. Ponadto taka przejrzystość może nastąpić kosztem prywatności użytkownika, ponieważ użytkownicy mogą nie chcieć dostarczać danych osobowych, które mogą być wykorzystywane przez osoby trzecie do celów reklam lub manipulować opinią publiczną.
Podsumowując, systemy rekomendacji AI na platformach społecznych odgrywają ważną rolę w wzmacnianiu głosów queer lub wzmacnianiu dyskryminacyjnych izb echo. Algorytmiczna przejrzystość może poprawić wyniki dla użytkowników LGBTQ, pozwalając im kontrolować swoje doświadczenie online, jednocześnie utrzymując firmy społecznościowe odpowiedzialne za wszelkie uprzedzenia w swoich zaleceniach.
Ostatecznie równoważenie prywatności użytkowników, budowania społeczności i dokładnej reprezentacji będzie zależeć od wspólnych wysiłków użytkowników, firm społecznościowych i decydentów.