يشير التحيز الخوارزمي إلى التحيز الذي يمكن أن يحدث عندما يمكن أن تؤدي الخوارزميات المستخدمة لاتخاذ قرارات في مجالات مختلفة مثل التوظيف والإقراض والرعاية الصحية إلى نتائج غير عادلة بسبب إدخال البيانات المتحيز. هناك قلق متزايد بشأن التأثير المحتمل للتحيز الخوارزمي على الأشخاص الذين ينتمون إلى مجموعات مهمشة مثل المثليات والمثليين ومزدوجي الميل الجنسي ومغايري الهوية الجنسانية (LGBT). ستناقش هذه الورقة الهياكل الحالية لتحديد وتخفيف التحيز الخوارزمي ضد المثليين ومزدوجي الميل الجنسي ومغايري الهوية الجنسانية ومدى فعاليتها في الممارسة العملية. يتضمن الهيكل الأول تعلم مصادر البيانات المستخدمة لتدريب الخوارزمية. وهذا يضمن أن بيانات التدريب تعكس بدقة السكان الذين يتم خدمتهم.
على سبيل المثال، إذا تم تدريب خوارزمية التوظيف باستخدام السير الذاتية للرجال من جنسين مختلفين، فقد يؤدي ذلك إلى نتائج متحيزة للمتقدمين من مجتمع الميم. لتجنب ذلك، قد تدرج المنظمات في مجموعات بيانات التدريب الخاصة بها مصادر بيانات مختلفة تمثل جميع الجنسين والتوجه الجنسي والهوية الجنسية.
نهج آخر يتضمن استخدام مقاييس الإنصاف في تطوير النموذج. تقيم هذه المقاييس ما إذا كان النموذج يعامل مجموعات فرعية مختلفة على قدم المساواة أو يفضل مجموعة على أخرى. على سبيل المثال، تقارن درجة المساواة أداء النموذج عبر المجموعات الديموغرافية، بينما يكشف مقياس التأثير المتباين عن أي اختلافات بين نتائج المجموعة. بالإضافة إلى ذلك، يمكن استخدام تقنيات ما بعد المعالجة مثل إعادة الترجيح أو المعايرة لضبط الناتج بناءً على تمثيل المجموعة في مجموعة البيانات. بالإضافة إلى ذلك، يمكن أن تساعد أدوات التفسير في تحليل نماذج الصندوق الأسود وتحديد الأنماط أو الارتباطات التي يمكن أن تسبب الضرر. من خلال شرح عملية صنع القرار في الخوارزمية، يمكن لهذه الأساليب اكتشاف التحيزات الخفية التي ربما مرت دون أن يلاحظها أحد بخلاف ذلك. تسمح إمكانية التفسير أيضًا لخوارزميات التدقيق بضمان عدم التمييز ضد مجموعات معينة. أخيرًا، يعد الرصد والتقييم المنتظمان لأداء الخوارزمية أمرًا بالغ الأهمية للحفاظ على فعاليتها. يجب على المؤسسات اختبار خوارزمياتها باستمرار لاختبار التحيز المحتمل وإجراء التغييرات عند الضرورة. قد يتضمن ذلك اختبار أداء الخوارزمية في مجموعات سكانية مختلفة ومقارنة نتائجها بأنظمة أخرى مماثلة. يساعد الرصد أيضًا في تحديد أشكال جديدة من التحيز مع تطور المجتمع. في حين أن هذه الهياكل موجودة للتخفيف من التحيز الخوارزمي، فإن فعاليتها محدودة. أولاً، قد يكون جمع بيانات متنوعة أمرًا صعبًا بسبب مخاوف الخصوصية وتوافر البيانات. ثانيًا، قد لا تعكس مقاييس الإنصاف دائمًا سيناريوهات العالم الحقيقي بدقة، مما يجعل من الصعب اكتشاف جميع أنواع التمييز. أخيرًا، تتطلب أدوات التفسير الخبرة والوقت، مما قد يحد من توفرها. في الختام، يتطلب تحديد التحيز الخوارزمي والتخفيف منه ضد أفراد مجتمع الميم نهجًا متعدد الجوانب يتضمن فحصًا دقيقًا لمصادر البيانات، واستخدام مقاييس الإنصاف أثناء تطوير النموذج، واستخدام أدوات القابلية للتفسير، والرصد المنتظم لأداء الخوارزمية. وفي حين توفر هذه الاستراتيجيات بعض الحماية من التمييز، يلزم إجراء مزيد من البحوث لمعالجة الأشكال الناشئة من التحيز في عالم يزداد تنوعا.
ما هي الهياكل الموجودة لتحديد وتخفيف التحيز الخوارزمي ضد المثليين ومزدوجي الميل الجنسي ومغايري الهوية الجنسانية وما مدى فعاليتها في الممارسة العملية ؟
تم اقتراح العديد من الأطر لتحديد وتخفيف التحيز الخوارزمي ضد المثليين. أحد هذه الإطارات هو علم الأونتولوجيا الرسمي لنظم المعلومات (FOIS)، الذي يعرف علم الأنطولوجيا بأنه «المواصفات الرسمية للمفاهيم والعلاقات الضرورية لتمثيل مجال الخطاب لتطبيق معين» (رام وآخرون، 2015).