Yapay Zeka (AI), sağlık, finans ve eğitim dahil olmak üzere birçok sektörde devrim yarattı. Bununla birlikte, LGBT bireyler gibi marjinal gruplara karşı ayrımcılık yapmak için kullanıldığında da önemli riskler oluşturmaktadır. AI algoritmalarının önyargıyı artırmasının bir yolu veri girişidir. Makine öğrenimi modelleri, tarihsel kalıpları ve eğilimleri içeren büyük veri kümeleri kullanılarak eğitilir. Bu veri kümeleri genellikle eşitsizliği sürdüren sosyal önyargıları ve önyargıları yansıtır. Örneğin, iş başvuruları için veri seti çoğunlukla geleneksel cinsiyet rollerine sahip heteroseksüel başvuru sahiplerini içeriyorsa, algoritma bu özellikleri tahminlerinde destekleyebilir ve bu da daha az LGBT kişinin işe alınmasına neden olabilir. AI'nın önyargıya katkıda bulunmasının bir başka yolu da karar verme süreçleridir. Bazı makine öğrenme modelleri, ten rengi ve suç oranları gibi belirli özellikler ve sonuçlar arasındaki istatistiksel korelasyonlara dayanır. Bu durumda, siyah insanlar, cilt tonlarından dolayı beyaz insanlardan daha sık suçlu olarak tanımlanabilir. Bu tür sistemik ırkçılık, istihdam veya konut gibi diğer alanlara da yayılabilir. Son olarak, insan hatası önyargılı AI sonuçlarına katkıda bulunabilir. Geliştiriciler, koddaki kendi bilinçsiz çarpıtmalarını kodlamadıklarından emin olmalıdır. Örneğin, bir programcı yanlışlıkla LGBT ile ilgili konuları "hassas'olarak işaretleyebilir ve eğitim sırasında bunlara erişimi kısıtlayabilir. Bu sorunları azaltmak için, geliştiriciler tasarım sürecinde çeşitliliğe öncelik vermelidir. LGBT topluluklarından bilgi almalı ve kapsayıcı uygulamaları iş akışlarına dahil etmelidirler. Buna ek olarak, dağıtımdan önce verileri randomize etmek veya algoritmaları denetlemek gibi önyargıları azaltmak için alternatif önlemler almalıdırlar. Son olarak, zaman içindeki hataları tanımlamak ve düzeltmek için düzenli test ve bakım gereklidir. Algoritmik tasarımdaki yapısal eşitsizlikleri ele alarak, geliştiriciler AI'yı inovasyonu teşvik etmek için sorumlu ve etik olarak kullanabilirler.
Yapay zeka LGBT bireylere karşı önyargıyı nasıl artırabilir ve geliştiriciler algoritmik tasarımdaki bu yapısal eşitsizlikleri etik olarak nasıl ele alabilir?
Yapay Zekanın (AI), heteronormativiteye, cisnormativiteye ve cinsiyet ikililerine katkıda bulunan mevcut sosyal yapıları çoğaltarak ve güçlendirerek LGBTQ + bireylere karşı önyargıyı güçlendirdiği gösterilmiştir. AI eğitim veri kümelerinde queer kimliklerle ilgili temsil ve veri eksikliği bu soruna daha da katkıda bulunmaktadır.