AI, sağlık, finans, eğitim ve hatta eğlence dahil olmak üzere birçok farklı alanda giderek daha fazla kullanılmaktadır. AI bu endüstrilerde devrim yaratırken, belirli insan gruplarına karşı önyargıları sürdürme potansiyeli konusunda endişeler var. Özellikle, araştırmacılar AI sistemlerinin lezbiyen, gey, biseksüel ve transseksüel (LGBT) topluluğunun üyelerine karşı ayrımcılık yapabileceğine dair endişelerini dile getirdiler. Bu riski azaltmak için, AI sistemlerindeki önyargıyı tanımlamak ve ele almak için çeşitli mekanizmalar geliştirilmiştir. Ancak, bu mekanizmaların pratikte ne kadar etkili olduğu belirsizliğini koruyor. LGBT popülasyonlarına karşı AI önyargısını tespit etmek için önerilen bir mekanizma veri denetimidir. Bu, AI sistemini eğitmek için kullanılan verilere bakmayı ve LGBT topluluğundakiler de dahil olmak üzere tüm grupları temsil etmesini sağlamayı içerir. Veri kümesindeki boşlukları belirleyerek, mühendisler modellerinin belirli alt gruplara karşı ayrımcılık yapmamasını sağlamak için adımlar atabilir. Örneğin, bir AI modeli heteroseksüel çiftlerin tıbbi görüntüleri kullanılarak eğitilmişse, aynı cinsiyetten çiftlerin değil, o zaman LGBT bireyler arasında hastalığın teşhisinde daha az doğru olabilir. Benzer şekilde, finansal model heteroseksüel evlilik verilerini kullanır, ancak aynı cinsiyetten evliliği görmezden gelirse, LGBT ailelerinin ihtiyaçlarını hafife alabilir. LGBT popülasyonlarına karşı AI önyargısını azaltmaya yönelik bir başka yaklaşım algoritmik adalet eğitimidir. Bu, verilerdeki eşitsizlik kalıplarını tanımak ve karar vermelerini buna göre ayarlamak için makine öğrenme algoritmalarını eğitmeyi içerir. Örneğin, kredi onay oranlarını tahmin etmek için tasarlanmış bir algoritma, borç verenlerin siyah ve Hispanik başvuru sahiplerine beyazlara göre kredileri reddetme olasılıklarının daha yüksek olduğunu gösteren tarihsel veriler üzerinde eğitilebilir. Bu kalıpları tanıyarak, algoritma ırk veya etnik kökene bakılmaksızın tüm başvuru sahiplerine adil davranmayı öğrenebilir. LGBT popülasyonlarına karşı AI önyargısını azaltmak için üçüncü bir mekanizma insan incelemesidir. Bu yaklaşımda, insanlar AI sistemlerinin performansını değerlendirme ve önyargılı göründüklerinde herhangi bir vakayı etiketleme sürecine katılırlar. Örneğin, AI sistemi sürekli olarak aynı tıbbi koşullara sahip erkekler ve kadınlar için farklı tedavi seçenekleri öneriyorsa, gözden geçirenler devreye girebilir ve sorunu düzeltebilir. İnsan incelemesi ayrıca, yaşlılık veya ableizm gibi diğer önyargı türlerini tanımlamaya ve ele almaya yardımcı olabilir. Bu mekanizmalara rağmen, AI sistemlerinin LGBT topluluğunun üyelerine karşı ayrımcılık yapmaya devam ettiğine dair kanıtlar var. Yakın zamanda yapılan bir araştırma, yüz tanıma yazılımının transseksüel insanları cisgender insanlardan farklı bir cinsiyet olarak yanlış tanımlama olasılığının daha yüksek olduğunu buldu. Benzer şekilde, Ulusal Standartlar ve Teknoloji Enstitüsü'nün (NIST) bir raporu, ses tanıma teknolojisinin kadın seslerini tanımlamada erkek seslerine kıyasla daha az doğru olduğunu buldu. Bu bulgular, en gelişmiş AI sistemlerinin bile belirli gruplara karşı önyargıya karşı bağışık olmayabileceğini göstermektedir. Genel olarak, LGBT popülasyonlarına karşı AI önyargısını belirleme ve azaltma konusunda ilerleme kaydedilmiş olsa da, yapılması gereken çok iş var. Araştırmacılar, mühendisler ve politika yapıcılar yeni yöntemler geliştirmeye devam etmeli ve mevcut yöntemlerin etkin bir şekilde uygulanmasını sağlamalıdır. Ancak o zaman toplumun tüm üyelerine eşit hizmet veren gerçekten kapsayıcı ve adil AI sistemleri oluşturabiliriz.
LGBT popülasyonlarına karşı AI önyargısını tanımlamak ve azaltmak için hangi mekanizmalar var ve pratikte ne kadar etkililer?
LGBT popülasyonlarına karşı AI önyargısını tanımlamak ve azaltmak için şu anda çeşitli araçlar var. En popüler yaklaşımlardan biri, olası önyargıları ele almak için veri kümelerini temizlemeyi ve filtrelemeyi içeren veri ön işlemedir. Başka bir yaklaşım, tarafsız veri kümelerinin örneklerinden öğrenebilecek makine öğrenme algoritmalarını kullanmaktır. Ek olarak, eğitim veri kümesindeki önyargıları ortaya çıkarabilecek aykırı değerleri belirlemek için aktif eğitim yöntemleri kullanılabilir.