الخوارزميات هي برامج حاسوبية يمكنها أداء مهام معينة دون تدخل بشري. إنهم يعملون من خلال تحليل كميات كبيرة من البيانات وإيجاد أنماط لاتخاذ القرارات. وقد تستند هذه الأنماط إلى الاتجاهات التاريخية أو الاحتمالات الإحصائية. تم استخدام الخوارزميات لتحديد مخاطر الائتمان، والتنبؤ بالطقس، وتحسين سلاسل التوريد، والتوصية بالموسيقى، واكتشاف الاحتيال وحتى تشخيص المرض. ومع ذلك، فإنها تديم التحيزات الاجتماعية وتميز ضد الأقليات. ستدرس هذه الورقة كيف تعيد الخوارزميات إنتاج التحيزات الأخلاقية ضد الهويات غير المتطابقة وتستكشف طرقًا لمواجهة هذه التحيزات.
إحدى الطرق التي تعيد بها الخوارزميات إنتاج التحيزات الأخلاقية هي من خلال استخدام المصنفات الثنائية. تقسم المصنفات الثنائية الناس إلى فئات مثل الرجل/المرأة، والأسود/الأبيض، والمستقيم/المثلي، والعابدين/المعوقين، إلخ. ثم يعينون كل فئة مجموعة من الخصائص التي قد تكون صحيحة أو غير صحيحة. على سبيل المثال، يمكن للخوارزمية المصممة للكشف عن المجرمين تصنيف أي شخص لديه وشم على أنه مجرم، بغض النظر عن سلوكه الفعلي. وهذا يمكن أن يؤدي إلى استهداف غير متناسب لبعض الفئات، بما في ذلك تلك التي لا تتوافق مع الأدوار التقليدية للجنسين.
طريقة أخرى لإعادة إنتاج الخوارزميات التحيزات الأخلاقية هي من خلال استخدام التعلم الآلي. يتضمن التعلم الآلي نماذج تدريبية على مجموعات بيانات واسعة النطاق ويسمح لهم بالتعلم من أخطاء الماضي. ومع ذلك، إذا كانت مجموعة البيانات غير مكتملة أو مائلة نحو مجموعة واحدة، فإن النموذج سينتج نتائج غير دقيقة للمجموعات الأخرى. على سبيل المثال، غالبًا ما تخطئ تقنية التعرف على الوجه في التعرف على النساء السود لأنها تم تدريبها بشكل أساسي على الرجال البيض. وبالمثل، قد يفضل التوظيف الخوارزميات المرشحين ذوي الأسماء العامة، مثل جون سميث، على المرشحين الذين لديهم أسماء أكثر عرقية.
لمكافحة هذه التحيزات، نحتاج إلى زيادة تنوع مجموعات البيانات المستخدمة في الخوارزميات. يجب علينا جمع وتحليل البيانات من المجموعات الممثلة تمثيلاً ناقصًا، بما في ذلك الأشخاص الملونون والأفراد المثليين والمثليات ومزدوجي الميل الجنسي ومغايري الهوية الجنسانية والمهاجرين والمعوقين والأقليات الدينية. علينا أيضًا تدريب النماذج على أمثلة مختلفة حتى تتعرف على جميع أنواع التجارب البشرية. بالإضافة إلى ذلك، يجب علينا اختبار الخوارزميات الحالية للتأكد من الدقة والإنصاف، والتأكد من عدم تعرض أي مجموعة للتمييز. أخيرًا، يجب أن نحاسب الشركات عندما تديم منتجاتها الصور النمطية الضارة. من خلال اتخاذ هذه الخطوات، يمكننا إنشاء مجتمع أكثر عدلاً حيث يتمتع الجميع بفرص وموارد متساوية.
كيف تعيد الخوارزميات إنتاج التحيزات الأخلاقية ضد الهويات غير المتطابقة ؟
ثبت أن الخوارزميات تكرر التحيزات الأخلاقية ضد الهويات غير المتطابقة بسبب اعتمادها على مجموعات البيانات التي غالبًا ما تعكس تحيزات المبرمجين البشريين والأعراف الاجتماعية. على سبيل المثال، عند برمجة خوارزمية لبرنامج التعرف على الوجه، يقوم المطورون عادةً بتدريب النظام باستخدام صور من الثقافات الغربية، حيث يتم تمثيل الوجوه البيضاء أكثر من الأعراق الأخرى.