تحديد التحيز في أنظمة الذكاء الاصطناعي ضد السكان المثليين
تتمثل إحدى طرق تحديد التحيز في أنظمة الذكاء الاصطناعي في فحص مجموعات البيانات المستخدمة لتدريبهم. إذا لم تعكس مجموعة البيانات بدقة التنوع السكاني، فقد تؤدي إلى نتائج متحيزة. على سبيل المثال، إذا تضمنت مجموعة البيانات صورًا لأزواج من جنسين مختلفين ولكن ليس أزواج من نفس الجنس، فقد لا تتمكن خوارزمية مدربة على تلك البيانات من التعرف على الأزواج المثليين والمثليات. للتخفيف من هذا النوع من التحيز، يمكن للباحثين جمع مجموعات بيانات أكثر تنوعًا أو تكملة المجموعات الموجودة بعينات إضافية.
بالإضافة إلى ذلك، يمكن تصميم الخوارزميات للنظر صراحة في الجنس والتوجه الجنسي في صنع القرار. يتضمن ذلك تحديد القواعد لكيفية تفسير النظام للبيانات والنتائج المقابلة في المواقف المختلفة.
نهج آخر هو تدقيق الكود الذي يقوم عليه نظام الذكاء الاصطناعي. من خلال اختبار منطق الخوارزمية وعمليات صنع القرار، يمكن للباحثين البحث عن أنماط تشير إلى التحيز تجاه مجموعات معينة. يمكنهم بعد ذلك تعديل الخوارزمية لمعالجة هذه التحيزات. أخيرًا، يمكن أن يساعد اختبار نظام الذكاء الاصطناعي على البيانات الحقيقية في تحديد أي عواقب غير مقصودة لتطويره. من خلال إخضاع النظام لسيناريوهات مختلفة، يمكن للباحثين التأكد من أنه ينتج نتائج عادلة عبر جميع السكان.
استراتيجيات للتخفيف من التحيز في أنظمة الذكاء الاصطناعي
هناك العديد من الاستراتيجيات للتخفيف من التحيز في أنظمة الذكاء الاصطناعي ضد مجتمع الميم. يتمثل أحد الأساليب في استخدام التعلم العدائي، والذي يتضمن تدريب خوارزمية للتعرف على التنبؤات غير الصحيحة وتصحيحها. استراتيجية أخرى هي تطوير خوارزميات جديدة مصممة خصيصًا للتعامل مع الحالات الغامضة أو المعقدة التي تنطوي على توجه جنسي أو هوية جنسية. يمكن لهذه الخوارزميات دمج المعلومات السياقية والمعايير الاجتماعية في صنع القرار. أخيرًا، يمكن للباحثين أيضًا العمل مع أصحاب المصلحة من المجتمعات الممثلة تمثيلاً ناقصًا لتطوير حلول مصممة خصيصًا لاحتياجاتهم بشكل تعاوني.
على سبيل المثال، يمكن لمقدم الرعاية الصحية التعاون مع مرضى LGBT لإنشاء خوارزمية تشخص بدقة الأمراض المنقولة بالاتصال الجنسي بناءً على الأعراض. من خلال التعاون مع أفراد المجتمع، يمكن للباحثين التأكد من أن الخوارزمية الناتجة تلبي الاحتياجات الفريدة للفئات المهمشة. بشكل عام، يتطلب تحديد التحيز وتخفيفه في أنظمة الذكاء الاصطناعي نهجًا متعدد الأوجه. يجب على الباحثين النظر في البيانات المستخدمة لتدريب الخوارزمية، وكيفية كتابة الكود، والتطبيقات الفعلية للتكنولوجيا. من خلال العمل مع مختلف أصحاب المصلحة، يمكنهم إنشاء أنظمة أكثر شمولاً وفعالية تخدم الجميع على قدم المساواة.
ما هي الهياكل الموجودة لتحديد وتخفيف التحيز في أنظمة الذكاء الاصطناعي ضد مجتمع الميم وما مدى فعالية هذه الاستراتيجيات ؟
اقترح الباحثون عدة أطر لتحديد التحيز في أنظمة الذكاء الاصطناعي (AI) التي قد تؤثر على المثليات والمثليين ومزدوجي الميل الجنسي ومغايري الهوية الجنسانية (LGBT). ويتمثل أحد هذه الإطارات في إطار «التنوع في التصميم»، الذي يؤكد على أهمية المنظورات المختلفة في تطوير نظم الذكاء الاصطناعي.