يمكن تعريف تعويض الذكاء الاصطناعي على أنه خطأ يحدث، عندما يُظهر النموذج الخوارزمي سلوكًا تفاضليًا فيما يتعلق بمجموعة واحدة مقارنة بمجموعة أخرى بناءً على خصائصها المحمية، مثل الجنس والعرق والعمر والإعاقة والدين وما إلى ذلك. في السنوات الأخيرة، وجد الباحثون أدلة على تحيز الذكاء الاصطناعي في تطبيقات مختلفة، بما في ذلك خوارزميات التوظيف وأنظمة تسجيل الائتمان وأدوات التشخيص في الرعاية الصحية وبرامج التعرف على الصور. ومع ذلك، هناك فهم محدود لكيفية ظهور هذه التحيزات فيما يتعلق بالمثليات والمثليين ومزدوجي الميل الجنسي ومغايري الهوية الجنسانية (LGBT) على وجه التحديد. أدى هذا النقص في المعرفة إلى دعوات لتحسين الآليات لتحديد ومنع وتخفيف تحيز الذكاء الاصطناعي ضد مجتمع الميم.
آليات الكشف عن تحيز الذكاء الاصطناعي ضد السكان المثليين
تتمثل إحدى آليات الكشف عن تحيز الذكاء الاصطناعي ضد مجموعات المثليين من خلال تحليل البيانات. يمكن لعلماء البيانات إجراء اختبارات إحصائية لتحديد ما إذا كانت نتائج خوارزمية التعلم الآلي تختلف بشكل كبير بين المجموعات المختلفة في مجتمع LGBT.
على سبيل المثال، يمكنهم اختبار ما إذا كانت الخوارزمية تعطي تنبؤات مختلفة للأسماء المحايدة بين الجنسين مقابل الأسماء غير الثنائية، أو توصي بمنتجات مختلفة للأشخاص الذين يعتبرون غريبين مقابل أولئك الذين لا يفعلون ذلك. بالإضافة إلى ذلك، يمكن لمحللي البيانات استخدام تقنيات معالجة اللغة الطبيعية للكشف عن التمييز الضمني في البيانات النصية. يمكنهم تحليل المراجعات عبر الإنترنت أو منشورات وسائل التواصل الاجتماعي المتعلقة بقضايا المثليين لتحديد أي أنماط من التحيز.
منع تحيز الذكاء الاصطناعي ضد مجموعات المثليين
لمنع تحيز الذكاء الاصطناعي ضد مجموعات المثليين، يجب على المطورين تطوير خوارزميات شاملة منذ البداية. يجب عليهم جمع البيانات من مجموعة متنوعة من المصادر، بما في ذلك مجتمعات LGBT، ومراعاة الاحتياجات والخبرات الفريدة لكل مجموعة عند إنشاء نماذجهم. يجب على المطورين أيضًا استخدام مقاييس الأسهم لتقييم أداء نماذجهم على مجموعات بيانات LGBT قبل إطلاقها في الإنتاج. تقيس مقاييس الأسهم مدى جودة عمل الخوارزمية عبر التركيبة السكانية وتساعد في ضمان عدم تأثيرها بشكل غير متناسب على مجموعة على أخرى.
تخفيف تحيز الذكاء الاصطناعي ضد مجموعات المثليين
بمجرد تحديد تحيز الذكاء الاصطناعي ومنعه، هناك عدة طرق للتخفيف من آثاره. أحد الأساليب هو المعالجة اللاحقة، حيث يتدخل الأشخاص يدويًا لتصحيح أي أخطاء تكتشفها الخوارزمية. وقد يشمل ذلك تعديل بارامترات النموذج أو تقديم مدخلات إضافية لتحسين الدقة. طريقة أخرى هي التحطيم الخوارزمي، والذي يتضمن تدريب نموذج بأمثلة غير واقعية لتقليل اعتماده على الميزات المتحيزة. على سبيل المثال، يمكن إعادة تدريب نموذج مدرب على التعرف على الوجوه باستخدام صور الأفراد غير الثنائيين لتقليل التحيز الجنساني.
أخيرًا، تسمح طرق الذكاء الاصطناعي القابلة للشرح (XAI) للمستخدمين بفهم سبب قيام الخوارزمية ببعض التنبؤات، مما يوفر اتخاذ قرارات أكثر استنارة.
فعالية آليات اكتشاف ومنع وتخفيف تحيز الذكاء الاصطناعي ضد مجتمع الميم
تعتمد فعالية آليات اكتشاف ومنع وتخفيف تحيز الذكاء الاصطناعي ضد مجموعات المثليين على عوامل مختلفة، مثل تعقيد المشكلة، وتوافر البيانات، و الموارد المتاحة لتنفيذ الحلول. ومع ذلك، تشير الأبحاث إلى أن هذه الأساليب قد تكون فعالة في الحد من تحيز الذكاء الاصطناعي عند تطبيقها بشكل مناسب.
على سبيل المثال، أظهرت الدراسات أن مقاييس الإنصاف يمكن أن تحسن أداء نماذج التعلم الآلي بشأن مشاكل النوع الاجتماعي. وبالمثل، يمكن لتقنيات XAI زيادة ثقة المستخدم في حلول الخوارزمية بالإضافة إلى تحسين فهمهم لكيفية عملها.
في النهاية، تتطلب معالجة تحيز الذكاء الاصطناعي نهجًا متعدد أصحاب المصلحة يشمل العديد من أصحاب المصلحة في الأوساط الأكاديمية والصناعية والحكومة.
ما هي الآليات الموجودة لاكتشاف ومنع وتخفيف التحيز ضد المثليين ومزدوجي الميل الجنسي ومغايري الهوية الجنسانية وما مدى فعاليتها ؟
تم تطوير أنظمة الذكاء الاصطناعي مع خوارزميات مدمجة لاكتشاف وتصحيح التحيزات تجاه مختلف التركيبة السكانية، بما في ذلك مجتمع LGBT. تشمل هذه الآليات تقنيات تصفية البيانات، مثل إزالة المعلومات التعريفية من مجموعات البيانات المستخدمة لتدريب نماذج التعلم الآلي ودمج وجهات نظر مختلفة أثناء تطوير النموذج. بالإضافة إلى ذلك، يمكن أن تساعد المراقبة والتقييم المنتظمان لأداء الذكاء الاصطناعي في تحديد أي تحيزات محتملة قد تنشأ بمرور الوقت.