Systemy rekomendacji algorytmicznych odgrywają coraz większą rolę w kształtowaniu tego, co widzimy online. Systemy te mają na celu analizę zachowań i preferencji użytkowników w celu zaoferowania odpowiednich treści, które mogą ich zainteresować.
Często jednak utrwalają heteronormatywne założenia dotyczące płci i seksualności, co może być problematyczne, jeśli chodzi o zalecanie treści erotycznych.
Na przykład, jeśli użytkownik postrzega powszechną pornografię z udziałem cisgender mężczyzn i kobiet uprawiających seks waniliowy, systemy rekomendacji algorytmicznej mogą zakładać, że ta osoba preferuje tradycyjne formy erotyki i zalecać więcej takich samych. Może to ograniczyć różnorodność opcji dostępnych dla użytkowników, którzy identyfikują się jako LGBTQ + lub mają nietradycyjne pragnienia seksualne. Ponadto systemy te mogą wzmacniać szkodliwe stereotypy na temat „normalnej" seksualności, eliminując dostęp do odpowiedniego materiału dla tych, którzy nie są zgodni z normami społecznymi.
Ponadto systemy rekomendacji algorytmicznych opierają się również na metadanych i słowach kluczowych do klasyfikacji treści, co może prowadzić do niedokładnych lub niekompletnych opisów seksualnego charakteru materiału.
Na przykład, jeśli film zawiera kilka sekund szczerych nagrań, ale głównie skupia się na opowiadaniu lub rozwoju charakteru, może być oznaczony jako „interes ogólny", co zmniejsza prawdopodobieństwo pojawienia się w zaleceniach dla widzów poszukujących szczerych materiałów. Może to prowadzić do homogenizacji treści i braku różnorodności pod względem reprezentacji.
Rozwiązanie tych problemów wymaga większej przejrzystości i odpowiedzialności w ramach systemów rekomendacji algorytmicznych. Firmy muszą zatrudniać różne zespoły do rozwijania swoich algorytmów, zapewniając, że wszystkie perspektywy są brane pod uwagę podczas procesu projektowania. Muszą one również dostarczyć jasnych i dokładnych metadanych opisujących seksualny charakter każdej treści, umożliwiających widzom podejmowanie świadomych decyzji na podstawie ich preferencji, a nie poleganie wyłącznie na zautomatyzowanych sugestiach.
Wreszcie, platformy powinny priorytetowo traktować włączenie poprzez prezentację szerokiej gamy treści, która pasuje do różnych gustów i demografii. Dzięki temu mogą stworzyć bardziej przyjazne środowisko dla wszystkich użytkowników, niezależnie od ich tożsamości płciowej lub orientacji seksualnej.
W jaki sposób systemy rekomendacji algorytmicznej zwiększają heteronormatywność zużycia treści erotycznych w internecie?
Wykazano, że systemy rekomendacji algorytmicznych zwiększają heteronormatywne zachowania poprzez promowanie wąskiego zakresu orientacji i preferencji seksualnych. Wynika to z kilku czynników, które obejmują dominację cisgender i proste twarze w zespołach rozwojowych za tymi systemami, a także zależności algorytmów od danych zebranych z głównych platform, takich jak YouTube i Pornhub.