أحدث الذكاء الاصطناعي ثورة في العديد من الصناعات، بما في ذلك الرعاية الصحية والتمويل والتعليم. ومع ذلك، فإنه يشكل أيضًا مخاطر كبيرة عند استخدامه للتمييز ضد الفئات المهمشة مثل المثليين.
إحدى الطرق التي تزيد بها خوارزميات الذكاء الاصطناعي من التحيز هي من خلال إدخال البيانات. يتم تدريب نماذج التعلم الآلي باستخدام مجموعات بيانات كبيرة تحتوي على أنماط واتجاهات تاريخية. غالبًا ما تعكس مجموعات البيانات هذه التحيزات والتحيزات الاجتماعية التي تديم عدم المساواة.
على سبيل المثال، إذا كانت مجموعة البيانات الخاصة بطلبات العمل تحتوي في الغالب على متقدمين من جنسين مختلفين لديهم أدوار تقليدية بين الجنسين، فقد تدعم الخوارزمية هذه الخصائص في تنبؤاتها، مما قد يؤدي إلى تجنيد عدد أقل من الأشخاص المثليين.
هناك طريقة أخرى يمكن أن يساهم بها الذكاء الاصطناعي في التحيز وهي من خلال عمليات صنع القرار. تعتمد بعض نماذج التعلم الآلي على الارتباطات الإحصائية بين سمات ونتائج معينة، مثل لون البشرة ومعدلات الجريمة. في هذه الحالة، يمكن التعرف على السود بشكل خاطئ على أنهم مجرمون أكثر من الأشخاص البيض بسبب لون بشرتهم. يمكن أن ينتشر هذا النوع من العنصرية النظامية إلى مجالات أخرى، مثل التوظيف أو السكن. أخيرًا، يمكن أن يساهم الخطأ البشري في نتائج الذكاء الاصطناعي المتحيزة. يجب على المطورين التأكد من أنهم لا يشفرون تشوهاتهم اللاواعية في الكود. على سبيل المثال، قد يقوم المبرمج عن غير قصد بوضع علامة على الموضوعات المتعلقة بالمثليين على أنها «حساسة» وتقييد الوصول إليها أثناء التدريب. للتخفيف من هذه المشكلات، يجب على المطورين إعطاء الأولوية للتنوع في عملية التصميم. يجب عليهم البحث عن معلومات من مجتمعات LGBT ودمج الممارسات الشاملة في سير عملهم. بالإضافة إلى ذلك، يجب عليهم النظر في تدابير بديلة لتقليل التحيز، مثل البيانات العشوائية أو خوارزميات التدقيق قبل النشر. أخيرًا، الاختبار والصيانة المنتظمان ضروريان لتحديد وتصحيح أي أخطاء بمرور الوقت.
من خلال معالجة التفاوتات الهيكلية في التصميم الخوارزمي، يمكن للمطورين استخدام الذكاء الاصطناعي بشكل مسؤول وأخلاقي لدفع الابتكار.
كيف يمكن للذكاء الاصطناعي زيادة التحيز ضد المثليين وكيف يمكن للمطورين معالجة هذه التفاوتات الهيكلية في التصميم الخوارزمي بشكل أخلاقي ؟
تم إثبات أن الذكاء الاصطناعي (AI) يعزز التحيز ضد أفراد LGBTQ + من خلال تكرار وتضخيم الهياكل الاجتماعية الحالية التي تساهم في التغاير والطبيعية والثنائيات بين الجنسين. يساهم الافتقار إلى التمثيل والبيانات حول هويات المثليين في مجموعات بيانات تدريب الذكاء الاصطناعي في هذه المشكلة.