عند النظر في التحيزات المحتملة في أنظمة الذكاء الاصطناعي (AI)، من المهم مراعاة تلك التي قد تؤثر على الأشخاص الذين يعتبرون مثليين ومثليين ومزدوجي الميل الجنسي ومغايري الهوية الجنسانية والمثليين (LGBTQ +). يمكن أن يكون لهذه التحيزات تداعيات خطيرة على أمنهم وخصوصيتهم والوصول إلى الرعاية الصحية وفرص العمل والمزيد. ومع ذلك، هناك العديد من الآليات للكشف عن هذه التحيزات وتخفيفها ومنعها في أنظمة الذكاء الاصطناعي. في هذه المقالة، استكشف مدى فعالية هذه الآليات في الممارسة العملية.
إحدى آليات الكشف عن تحيز الذكاء الاصطناعي ضد مجتمع الميم هي التدقيق. يتضمن ذلك التحقق من رمز الخوارزمية ومصادر البيانات لمعرفة ما إذا كانت تعكس تنوع السكان الذين تهدف إلى خدمتهم.
على سبيل المثال، قد تقوم شركة تطور تطبيقًا للمواعدة عبر الإنترنت بتعيين مستشار مستقل لتقييم ما إذا كانت خوارزمياتها تتضمن مصطلحات تتعلق بالهوية الجنسية أو التوجه الجنسي قد تستبعد مستخدمين معينين. إذا كان الأمر كذلك، سيوصي المستشار بإجراء تغييرات على الخوارزمية لجعلها أكثر شمولاً. طريقة أخرى للكشف هي الاختبار مع مجموعات مختلفة. تُظهر الدراسة، التي نُشرت في مجلة Nature، كيف اختبر فريق من الباحثين نموذجًا لتصنيف الصور باستخدام ملامح الوجه ووجدوا أنها قدمت تنبؤات غير دقيقة حول التوجه الجنسي بناءً على الصور النمطية مثل اللحى أو الأقراط. دفعت النتائج الباحثين إلى إعادة تصنيف النموذج بمجموعة بيانات أكبر وأكثر تمثيلاً.
نهج آخر لمعالجة تحيز الذكاء الاصطناعي هو من خلال تحليل الإنصاف. وينطوي ذلك على قياس أثر عملية معينة لصنع القرار على مختلف السكان. وجدت دراسة أجرتها ProPublica أن نظام التوظيف في أمازون أقل احتمالًا لاختيار المتقدمات لأنه يفضل استئناف كلمة «تنفيذي» على أولئك الذين ليس لديهم ذلك. عند تحليل عملية صنع القرار، حددت الدراسة التحيز المحتمل ضد المرأة. نتيجة لذلك، قامت أمازون بتحديث نظامها لإزالة مصطلح «تنفيذي». يمكن أيضًا استخدام تحليل الإنصاف لتحديد التحيزات في مجالات أخرى، مثل العدالة الجنائية والرعاية الصحية والإسكان.
للتخفيف من تحيز الذكاء الاصطناعي، تتمثل إحدى الاستراتيجيات في استخدام تفسيرات مضادة للوقائع. يشرحون سبب اتخاذ قرار معين ويقترحون بدائل كان من الممكن أن تؤدي إلى نتيجة مختلفة.
على سبيل المثال، إذا استخدم مقرض الرهن العقاري الذكاء الاصطناعي لتحديد الجدارة الائتمانية، فيجب عليه تقديم تفسيرات للقرارات غير المواتية للمتقدمين من مجتمع الميم.
على سبيل المثال، قد يقرأ تفسير مضاد، «إذا كان دخلك أعلى بمقدار 500 دولار، فستكون مؤهلاً للحصول على هذا الائتمان». استراتيجية أخرى هي تنفيذ قيود المدخلات والخوارزميات. على سبيل المثال، قد يحد المصرف من استخدام لغة خاصة بنوع الجنس في تحديد أهلية القرض. بالإضافة إلى ذلك، هناك بعض الخطوات التي يمكن للشركات اتخاذها لمنع تحيز الذكاء الاصطناعي في المقام الأول. يتمثل أحد الأساليب في جمع المعلومات الديموغرافية حول المستخدمين أو العملاء. تطلب شركات مثل Google و Facebook من مطوريها التفكير في التنوع عند تصميم المنتجات، مما يساعد على ضمان عدم استبعاد أنظمتها عن غير قصد لمجموعات معينة. هناك استراتيجية أخرى تتمثل في استخدام مجموعات بيانات متنوعة أثناء التدريب على النماذج لتقليل مخاطر القوالب النمطية.
أخيرًا، يمكن للشركات بناء إرشادات أخلاقية في عمليات تطوير الذكاء الاصطناعي الخاصة بها للمساعدة في ضمان العدالة والشفافية طوال العملية.
في حين أن هذه الآليات موجودة للكشف عن تحيز الذكاء الاصطناعي ضد مجتمع الميم والتخفيف منه ومنعه، فإن فعاليتها تعتمد على عدة عوامل. تشير بعض الدراسات إلى أن مراجعة الحسابات وحدها لا يمكن أن تقضي تمامًا على جميع أشكال التمييز لأن التحيزات يمكن أن تكون دقيقة ويصعب تحديدها. تشير دراسات أخرى إلى أن التدقيق يمكن أن يكون مفيدًا، لكنه يتطلب خبرة في كل من التعلم الآلي والعدالة الاجتماعية لتكون فعالة. قد لا تكون التفسيرات المضادة للوقائع دقيقة أو شاملة دائمًا، وقد تؤدي القيود إلى مخاطر جديدة إذا كانت تقييدية للغاية.يمكن أن يتطلب إنشاء الشمولية في عملية التصميم أيضًا موارد وموظفين يفهمون كيفية تقاطع الهويات المختلفة مع التكنولوجيا.
بشكل عام، سيتطلب الأمر جهدًا مستمرًا من قادة الصناعة وصانعي السياسات ومجموعات المناصرة لضمان أن أنظمة الذكاء الاصطناعي تخدم الجميع على قدم المساواة وبإنصاف.
ما هي الآليات الموجودة للكشف عن تحيز الذكاء الاصطناعي ضد مجتمع الميم والتخفيف منه ومنعه وما مدى فعاليته في الممارسة ؟
على الرغم من القبول المتزايد لمجتمعات المثليات والمثليين ومزدوجي الميل الجنسي ومغايري الهوية الجنسانية (LGBT)، لا تزال هناك تحيزات في الذكاء الاصطناعي (AI). تظهر هذه التحيزات على أنها تحيزات قائمة على الهوية الجنسية والتوجه الجنسي والعرق والعمر والعرق والدين والمظهر وما إلى ذلك، والتي يمكن تضمينها في بيانات التدريب المستخدمة لتدريب الخوارزميات. اقترح باحثون مختلفون آليات مختلفة لمعالجة تحيز الذكاء الاصطناعي ضد مجتمع الميم.