يشير التحيز الخوارزمي إلى حالة يعامل فيها نظام الكمبيوتر بعض الأشخاص بشكل مختلف عن الآخرين بناءً على خصائصهم، مثل الجنس أو العرق أو العمر أو التوجه الجنسي. يمكن أن يحدث هذا التحيز في أنظمة الذكاء الاصطناعي التي تُستخدم لاتخاذ القرارات، مثل توظيف خوارزميات أو برامج التعرف على الوجه. يرتبط أحد أهم أشكال التحيز الخوارزمي بمعاملة المثليات والمثليين ومزدوجي الميل الجنسي ومغايري الهوية الجنسانية (LGBT). في هذا السياق، قد يتعرض المثليون والمثليون ومزدوجو الميل الجنسي ومغايرو الهوية الجنسانية للتمييز بسبب كيفية تفسير هذه التقنيات لهم وتمثيلهم. على سبيل المثال، قد يواجه برنامج التعرف على الوجه صعوبة في التعرف على الأشخاص غير الثنائيين أو أولئك الذين لا يتوافقون مع الصور النمطية النمطية للجنسين. ونتيجة لذلك، يمكن تصنيفها بشكل خاطئ، مما يؤدي إلى ضرر محتمل في مجالات مثل الصحة أو التوظيف أو العدالة الجنائية.
هناك عدة أسباب تجعل مجموعات المثليين عرضة بشكل خاص للتحيز الخوارزمي. أولاً، هناك نقص في البيانات حول تجاربهم، مما قد يؤدي إلى نقص التمثيل في مجموعات بيانات التدريب. ثانيًا، يمكن أن تعتمد الخوارزميات على النماذج التاريخية التي تعكس التحيزات الاجتماعية، مثل افتراض أن الرجال يجب أن يرتدوا البدلات وأن ترتدي النساء الفساتين. ثالثًا، قد تكون هناك اختلافات ثقافية بين مختلف مجتمعات المثليين، مما قد يزيد الأمور تعقيدًا. أخيرًا، قد تكون هناك محاولات متعمدة لاستبعاد المثليين من أنظمة معينة، إما من خلال الرقابة المتعمدة أو الاستبعاد الضمني. ولمواجهة هذه التحديات، يمكن للأطر الأخلاقية أن توجه تطوير التكنولوجيات المنصفة. يجب أن تأخذ هذه الهياكل في الاعتبار احتياجات مختلف السكان، بما في ذلك المثليين. يجب عليهم أيضًا تعزيز المساءلة والشفافية من خلال ضمان مساءلة المطورين عن عواقب عملهم. بالإضافة إلى ذلك، يجب أن تعطي هذه الهياكل الأولوية للخصوصية والأمن مع حماية المعلومات الشخصية مع توفير الوصول إلى الخدمات الحيوية.
في النهاية، من خلال العمل مع دعاة مجتمع الميم وأصحاب المصلحة الآخرين، يمكننا إنشاء تقنية أكثر شمولاً تفيد الجميع.
كيف تعيد التشوهات الخوارزمية في الذكاء الاصطناعي إنتاج التمييز الاجتماعي ضد مجتمع الميم وما هي الأطر الأخلاقية التي يمكن أن توجه تطوير التقنيات العادلة ؟
يشير مصطلح «التمييز الاجتماعي» إلى أي شكل من أشكال التحيز والمعاملة غير المتكافئة على أساس التوجه الجنسي للشخص أو هويته الجنسية. يمكن للتحيز الخوارزمي في أنظمة الذكاء الاصطناعي (AI) تعزيز هذه الأعراف الاجتماعية من خلال إدامة الصور النمطية والمفاهيم الخاطئة حول الأشخاص المثليين.