أحد التحديات الرئيسية المرتبطة بتطوير الذكاء الاصطناعي هو قدرته على إدامة التحيزات الموجودة بالفعل في المجتمع، بما في ذلك تلك القائمة على الهوية الجنسية والعرق والتوجه الجنسي. قد يكون هذا مشكلة خاصة لأفراد الفئات المهمشة، الذين قد يواجهون التمييز في حياتهم اليومية وداخل أنظمة الذكاء الاصطناعي. لحسن الحظ، يتم تطوير العديد من الاستراتيجيات لتحديد وتخفيف التحيز ضد المثليات والمثليين ومزدوجي الميل الجنسي ومغايري الهوية الجنسانية. (LGBT) في خوارزميات الذكاء الاصطناعي.
من حيث التعرف، وجد الباحثون أن أنواعًا معينة من مجموعات البيانات المستخدمة لتدريب نماذج الذكاء الاصطناعي قد تساهم في التحيز. على سبيل المثال، قد تكون الصور التي تتضمن أشخاصًا من مجتمع الميم ممثلة تمثيلاً ناقصًا أو يتم تسميتها بشكل خاطئ في مجموعات بيانات التعرف على الصور، مما يؤدي إلى أخطاء في أنظمة الذكاء الاصطناعي. بالإضافة إلى ذلك، قد تكون الأنماط اللغوية التي يشيع استخدامها من قبل الأشخاص المثليين غائبة أيضًا عن النماذج اللغوية الكبيرة، مما يؤدي إلى عدم فهم عند تفسير النص الناتج عن هذه الأنظمة. لمعالجة هذا الأمر، تعمل بعض الشركات على إنشاء مجموعات بيانات أكثر تنوعًا وطرق تعلم نموذجية تتضمن التجارب الفريدة والفردية لجميع الأفراد.
بمجرد تحديده، يجب تنفيذ التدخلات للحد من التحيز. يتضمن أحد الأساليب استخدام تقنيات التعلم الآلي لاكتشاف وتصحيح الأنماط في البيانات التي تشير إلى المعاملة غير العادلة للأشخاص المثليين. تتضمن استراتيجية أخرى تطوير مقاييس الإنصاف لقياس مدى جودة تعامل الخوارزمية مع المجموعات الفرعية المختلفة، مما يسمح للمطورين بتقييم تأثير الميزات الجديدة أو التغييرات على الكود الحالي.
أخيرًا، يوصي الخبراء بتنفيذ عمليات الفحص البشري حيث يقوم المهنيون المدربون بفحص وتقييم نتائج الذكاء الاصطناعي لضمان الدقة والإنصاف. ومع ذلك، فإن هذه الأساليب ليست فعالة دائمًا من الناحية العملية. وفي كثير من الحالات، يتطلب تنفيذها موارد وخبرات كبيرة قد يصعب على المنظمات الصغيرة توفيرها. وعلاوة على ذلك، حتى مع بذل جهد شامل، من الصعب ضمان القضاء التام على التحيز دون فهم شامل لأسبابه وآلياته الأساسية. وبالتالي، ستكون هناك حاجة إلى مواصلة البحث والتعاون بين العلماء والمهنيين في الصناعة ومجموعات الدعوة لزيادة تحسين فعالية هذه التدخلات بمرور الوقت.
ما هي الآليات القائمة لتحديد وتخفيف التحيز ضد المثليات والمثليين ومزدوجي الميل الجنسي ومغايري الهوية الجنسانية وما مدى فعالية هذه التدخلات في الممارسة العملية ؟
تم اقتراح العديد من الطرق لتحديد وتخفيف تشوهات الذكاء الاصطناعي (AI) التي قد تكون موجودة في الخوارزميات التي تستخدمها الشركات والمنظمات. يتمثل أحد النهج الشائعة في إجراء تحليلات إحصائية لمجموعات البيانات للتأكد من أنها لا تحتوي على أي تحيزات غير مقصودة، مثل تلك المتعلقة بالعرق أو الجنس أو التوجه الجنسي أو العمر أو الوضع الاجتماعي والاقتصادي. تتضمن طريقة أخرى استخدام خوارزميات التعلم الآلي التي يمكنها اكتشاف الأنماط في البيانات وتحديد المصادر المحتملة للتحيز.