Algoritmalar, insan müdahalesi olmadan belirli görevleri yerine getirebilen bilgisayar programlarıdır. Büyük miktarda veriyi analiz ederek ve karar vermek için kalıplar bularak çalışırlar. Bu modeller tarihsel eğilimlere veya istatistiksel olasılıklara dayanabilir. Kredi riskini tanımlamak, hava durumunu tahmin etmek, tedarik zincirlerini optimize etmek, müzik önermek, sahtekarlığı tespit etmek ve hatta hastalığı teşhis etmek için algoritmalar kullanılmıştır. Bununla birlikte, sosyal önyargıları sürdürürler ve azınlık gruplarına karşı ayrımcılık yaparlar. Bu makale, algoritmaların uyumsuz kimliklere karşı ahlaki önyargıları nasıl yeniden ürettiğini ve bu önyargılara karşı koymanın yollarını araştıracaktır. Algoritmaların ahlaki önyargıları yeniden üretmesinin bir yolu, ikili sınıflandırıcıların kullanılmasıdır. İkili sınıflandırıcılar, insanları erkek/kadın, siyah/beyaz, düz/eşcinsel, abed/engelli, vb. Daha sonra her kategoriye doğru olabilecek veya olmayabilecek bir dizi özellik atarlar. Örneğin, suçluları tespit etmek için tasarlanmış bir algoritma, gerçek davranışlarına bakılmaksızın, dövmeli herkesi suçlu olarak sınıflandırabilir. Bu, geleneksel cinsiyet rollerine uymayanlar da dahil olmak üzere belirli grupların orantısız bir şekilde hedeflenmesine yol açabilir. Algoritmaların ahlaki önyargıları yeniden üretmesinin bir başka yolu da makine öğreniminin kullanılmasıdır. Makine öğrenimi, kapsamlı veri kümeleri üzerinde eğitim modellerini içerir ve geçmiş hatalardan öğrenmelerini sağlar.
Bununla birlikte, veri kümesi bir gruba eksik veya eğriyse, model diğer gruplar için yanlış sonuçlar üretecektir. Örneğin, yüz tanıma teknolojisi genellikle siyah kadınları yanlış tanımlar, çünkü öncelikle beyaz erkekler üzerinde eğitilmiştir. Benzer şekilde, işe alım algoritmaları, John Smith gibi genel isimlere sahip adayları, daha etnik olarak kulağa hoş gelen isimlere sahip adaylara tercih edebilir. Bu önyargılarla mücadele etmek için, algoritmalar tarafından kullanılan veri kümelerinin çeşitliliğini arttırmamız gerekir. Beyaz olmayan insanlar, LGBTQ + bireyler, göçmenler, engelliler ve dini azınlıklar da dahil olmak üzere az temsil edilen gruplardan veri toplamalı ve analiz etmeliyiz. Ayrıca, modelleri farklı örnekler üzerinde eğitmeliyiz, böylece her türlü insan deneyimini tanırlar. Ayrıca, doğruluk ve adalet için mevcut algoritmaları test etmeli ve hiçbir gruba karşı ayrımcılık yapılmamasını sağlamalıyız. Son olarak, ürünleri zararlı stereotipleri sürdürdüğünde şirketleri sorumlu tutmalıyız. Bu adımları atarak, herkesin fırsat ve kaynaklara eşit erişime sahip olduğu daha adil bir toplum yaratabiliriz.
Algoritmalar uyumsuz kimliklere karşı ahlaki önyargıları nasıl yeniden üretir?
Algoritmaların, genellikle insan programcılarının ve sosyal normların önyargılarını yansıtan veri kümelerine güvenmeleri nedeniyle uyumsuz kimliklere karşı ahlaki önyargıları tekrarladığı gösterilmiştir. Örneğin, yüz tanıma yazılımı için bir algoritma programlarken, geliştiriciler genellikle sistemi beyaz yüzlerin diğer ırklardan daha sık temsil edildiği Batı kültürlerinden gelen görüntüleri kullanarak eğitirler.