تناقش هذه المقالة كيف يمكن لتصميم أنظمة الذكاء الاصطناعي (AI) ترميز الافتراضات غير المتجانسة عن غير قصد، وهي معتقدات حول أدوار الجنسين والمعايير الجنسية التي تعكس القيم التقليدية، التي غالبًا ما تكون أبوية. إنه يستكشف الطرق المختلفة التي يمكن أن تظهر بها مثل هذه التحيزات في تقنية الذكاء الاصطناعي ويقترح استراتيجيات محتملة لتحديد وتصحيحها.
يشير التغاير إلى توقع التزام الناس بأدوار معينة للجنسين والانخراط في علاقات رومانسية أحادية الزواج من جنسين مختلفين، حيث يشغل الرجال عادة مناصب مهيمنة ضمن هذه الترتيبات. هذه الافتراضات متأصلة بعمق في العديد من الثقافات والمجتمعات في جميع أنحاء العالم وقد عززتها قرون من التنشئة الاجتماعية والتلقين. ومع ذلك، كان هناك اعتراف متزايد في السنوات الأخيرة بالآثار الضارة للهياكل غير المتجانسة على الأشخاص الذين لا يستوفون هذه المعايير، مما أدى إلى زيادة عدد الدعوات إلى تفكيكها.
أحد المجالات التي تكون فيها هذه المشكلة حادة بشكل خاص هو تطوير أنظمة الذكاء الاصطناعي التي تعتمد بشكل كبير على مجموعات البيانات والخوارزميات التي يمكن أن تبني على التحيزات الثقافية الموجودة مسبقًا. على سبيل المثال، قد تتضمن نماذج التعلم الآلي المستخدمة لتوليد روبوتات الدردشة أو المساعدين الافتراضيين أنماطًا لغوية واستجابات تشير إلى هيكل ثنائي بين الجنسين، مما يديم الصور النمطية للذكورة والأنوثة. وبالمثل، يمكن أن تكافح برامج التعرف على الوجه لتحديد الأجناس غير الثنائية بدقة، واستبعادها من الخدمات والموارد المهمة. لحسن الحظ، هناك العديد من المنهجيات لاكتشاف وتصحيح هذه التحيزات في أنظمة الذكاء الاصطناعي. وينطوي أحد النهج على إجراء تحليلات للحساسية لتقييم كيفية تفاعل المجموعات الديمغرافية المختلفة مع النظام وتحديد أي نقاط عمياء محتملة أو مجالات تمييز. تتضمن استراتيجية أخرى تطوير مجموعات بيانات بديلة تعكس وجهات نظر وتجارب أكثر تنوعًا، مثل الأفراد المتحولين جنسيًا أو ثنائيي الجنس. بالإضافة إلى ذلك، يمكن للباحثين استخدام تقنيات مثل التعلم العدائي لتعريض نماذج الذكاء الاصطناعي للسيناريوهات التي تتحدى افتراضاتهم الأساسية، مما يسمح لهم بالتكيف والتطور وفقًا لذلك.
بشكل عام، تتطلب معالجة التحيز غير المتجانس في تصميم الذكاء الاصطناعي كل من الوعي بانتشاره والإبداع في تحديد الحلول الفعالة. من خلال إعطاء الأولوية للشمولية والإنصاف في تطوير التكنولوجيا، يمكننا المساعدة في خلق مستقبل حيث يمكن لجميع الناس المشاركة بشكل كامل في مجتمعنا الرقمي المتزايد دون خوف من التمييز أو التهميش.
كيف يمكن تصميم أنظمة الذكاء الاصطناعي عن غير قصد تشفير الافتراضات غير المتجانسة وما هي المنهجيات المعمول بها لاكتشاف وتصحيح هذه التحيزات ؟
يشير مصطلح «التغاير» إلى الاعتقاد بأن المغايرة الجنسية هي التوجه الجنسي الوحيد المقبول، والذي عادة ما تعززه المؤسسات الاجتماعية مثل قوانين الزواج والهياكل الأسرية. قد يكون هذا مشكلة عندما يتعلق الأمر بتصميم أنظمة الذكاء الاصطناعي (AI)، حيث يمكنها ترميز هذا التحيز عن غير قصد في خوارزمياتها وعمليات صنع القرار.