AI, müşterileri desteklemek için chatbotlar gibi doğal dil işleme (NLP) gerektiren görevleri otomatikleştirmek için kullanılabilir. Bu chatbotlar genellikle sosyal medya gönderileri ve insanların cinsiyet kimliği ile ilgili deneyimlerini tartıştıkları çevrimiçi forumlar da dahil olmak üzere çeşitli kaynaklardan çok miktarda veri içeren veri kümeleri kullanılarak eğitilir. Bu olduğunda, AI yanlışlıkla trans insanlar hakkındaki yanlış anlamaları ve hatta zararlı klişeleri çoğaltabilir. Bunun nedeni, bu sistemleri yönlendiren algoritmaların, eğitim verilerinde buldukları kalıplara dayanması ve sonunda bu önyargıları fark etmeden büyütebilmesidir. Örneğin, bir veri kümesi trans insanların görünümü hakkında olumsuz yorumlar içeriyorsa, onlarla iletişim kurarken aşağılayıcı açıklamalar yapan bir chatbot'a yol açabilir. Benzer şekilde, bir veri kümesi cinsiyet rolleri hakkında eski bir dil veya varsayımlar içeriyorsa, bir chatbot bu önyargılara dayanarak yanlış sonuçlar veya yargılar çıkarabilir. AI'nın cinsiyet kimliği etrafındaki yanlış anlamaları sürdürebilmesinin bir başka yolu da görsel tanımadır. Yüz tanıma yazılımının, ikili erkek/kadın varyantlarının ötesinde kapsamlı cinsiyet ifadesi eğitim verilerinin olmaması nedeniyle ikili olmayan yüz tanımlaması ile mücadele ettiği bilinmektedir. Bu, insanları tercih edilen zamirler yerine yasal isimlerini kullanmaya zorlamak gibi istisnai uygulamalara yol açabilir ve bu da kimliklerini geçersiz kılabilir. Ayrıca, yüz tanıma teknolojisi, geleneksel erkeklik veya kadınlık kavramlarına uymayan bireylere karşı ayrımcılığa yol açabilen havaalanı taraması gibi güvenlik önlemlerinde yaygın olarak kullanılmaktadır. Sorun AI sistemlerinin ötesine geçiyor. Bazı durumlarda, AI geliştiricilerinin kendileri, belirli cinsiyetlere karşı bilinçsiz bir önyargıya sahip olabilir ve bu da onları toplumdaki mevcut güç dinamiklerini güçlendiren ürünler geliştirmeye yönlendirir. Bunlar, AI'nın yanlışlıkla cinsiyetçiliğe ve cisnormativiteye nasıl katkıda bulunabileceğinin sadece birkaç örneğidir. Bu sorunla mücadele etmek için, YZ araçları geliştiren şirketlerin marjinal gruplar üzerindeki potansiyel etkilerinin farkında olmaları ve geliştirme sürecinde tüm seslerin duyulmasını sağlamaları önemlidir. Geliştiriciler ayrıca, yeni ürünleri piyasaya sürmeden önce ele alınması gereken önemli konular hakkında fikir verebilecek az temsil edilen topluluklardan uzmanlarla yakın çalışmalıdır. Genel olarak, AI yenilik için birçok fırsat sunarken, cinsiyet kimliğiyle ilişkili zararlı klişeleri güçlendirmesini önleme konusunda uyanık kalmalıyız.
YZ, cinsiyet kimliğiyle ilgili önyargıları veya yanlış anlamaları yanlışlıkla nasıl çoğaltabilir?
Yapay zekanın (AI) kullanımı, onu eğitmek için kullanılan verilerden etkilenmesi nedeniyle cinsiyet kimliğine ilişkin önyargıların ve yanlış anlamaların devam etmesine neden olabilir. Bu veriler, AI sisteminin bu önyargıları karar vermede çoğaltmasına neden olabilecek cinsiyet kimliği önyargısını yansıtabilir.