İçerik denetleme sistemleri, çevrimiçi konuşma ve davranışı düzenlemek için kullanılan yazılım algoritmalarıdır. Genellikle platformun ana şirketi tarafından belirlenen topluluk standartlarının ihlali için kullanıcı tarafından oluşturulan yayınları tarar, analiz eder ve işaretler. İçerik yönetimi, güvenli, sivil ve keyifli çevrimiçi iletişimi sürdürmek için gereklidir. Bununla birlikte, bu sistemler, garip ifadeyi "uygunsuz'kabul eden artan sosyal önyargı da dahil olmak üzere istenmeyen sonuçlara da yol açabilir. Bu makale, bunun nasıl gerçekleştiğini ve bu tür normatif sınıflandırmalardan hangi felsefi eleştirilerin ortaya çıktığını tartışacaktır. İçerik denetleme sistemleri ağırlıklı olarak makine öğrenimi ve doğal dil işleme tekniklerine dayanır ve bu da genellikle önyargılı sonuçlara neden olur. Örneğin, birçok sistem heteronormatif topluluklardan geçmiş verileri içeren veri kümeleri kullanılarak eğitilmiştir. Bu, farklı görüşlere maruz kalmama nedeniyle küfürleri uygunsuz olarak yanlış sınıflandırma olasılıklarının daha yüksek olabileceği anlamına gelir. Buna ek olarak, otomatik algoritmalar, nüanslı anlamları veya kültürel bağlamları anlamak için mücadele edebilir ve bu da zararsız mesajların hatalı etiketlenmesine yol açabilir. Felsefi olarak, bu konular konuşma ve ifade özgürlüğünün değeri hakkında sorular ortaya çıkarmaktadır. İçerik yönetimi tarafından dışlanmış veya cesareti kırılmış hisseden Queer insanlar, düşüncelerini veya deneyimlerini paylaşmayabilir ve başkalarının marjinal bakış açılarını anlamalarını sınırlayabilir. Ayrıca, kısıtlayıcı politikalar farklı bakış açıları arasında sağlıklı diyaloga müdahale edebilir, zararlı klişeleri sürdürebilir veya uyumsuz kimliklerin geçerliliğini reddedebilir. Nihayetinde, bu sosyal normları güçlendirir ve güç yapılarını güçlendirir, insanların baskıcı inanç ve davranışlarla savaşmasını zorlaştırır. Bu zorlukların üstesinden gelmek için, platformlar algoritmik gelişimde adil temsile, çeşitli girdilere sahip öğrenme modellerine ve topluluk standartları konusunda uzman danışmanlığına öncelik vermelidir. Ayrıca, işaretli mesajları kontrol etmek için insan gözden geçiricileri kullanmalı ve ifadesi makineler tarafından "uygunsuz'kabul edilenlere bir güvenlik ağı sağlamalıdır. Son olarak, kullanıcılar tüm kimlik, dil ve deneyim biçimlerini kucaklayan kapsayıcı politikaları savunabilirler. Bunu yaparak, herkesin kendini güvende hissettiği, duyulduğu ve özgürce ifade edebileceği daha dinamik bir çevrimiçi kültür yaratabiliriz.
İçerik denetleme sistemleri, garip ifadeyi "uygunsuz'olarak gören toplumsal önyargıları nasıl yeniden üretir ve bu tür normatif sınıflandırmalardan hangi felsefi eleştiriler doğar?
Shannon Vallor'a (2018) göre, "Otomatik konuşma sınıflandırması, bir kişinin belirli konuşma kategorileri hakkındaki önyargılarına dayanarak sosyal medya platformlarına yerleştirilmiş algoritmalar tarafından 'saldırgan'olarak hareket eder" (s. 36). Bu önyargılar genellikle cinsiyet kimliği ve cinsel yönelim hakkındaki klişelere dayanmaktadır.