تستخدم تقنيات الذكاء الاصطناعي بشكل متزايد لتفسير وتصنيف الهوية الجنسية، ولكن يمكن أن تخضع للتحيزات الاجتماعية التي يمكن أن تؤدي إلى نتائج غير صحيحة أو ضارة. إليك كيف يحدث ذلك:
1) قد تحتوي مجموعات البيانات المستخدمة لتدريب خوارزميات الذكاء الاصطناعي على تحيز بسبب المواقف التاريخية تجاه بعض الأجناس أو التوجه الجنسي.
على سبيل المثال، إذا تضمنت مجموعة البيانات صورًا لنساء يشاركن في أنشطة نسائية تقليدية مثل الطهي والتنظيف، فيمكنها الاستشهاد بخوارزمية الذكاء الاصطناعي لربط هذه المهام بالهوية الجنسية الأنثوية.
2) يمكن أيضًا أن تتأثر الخوارزميات التي تحلل أنماط الكلام والخصائص الصوتية لتحديد الهوية الجنسية بالقوالب النمطية الثقافية حول صوت الرجال والنساء. يمكن أن يؤدي ذلك إلى خطأ في التعرف أو التمييز ضد الأفراد غير الثنائيين الذين لا يتطابقون مع هذه القوالب النمطية.
3) برنامج التعرف على الوجه هو مجال آخر يمكن أن ينشأ فيه التحيز الجنساني، خاصة عندما يتعلق الأمر بالتعرف على ملامح الوجه المحايدة بين الجنسين أو الأفراد المتحولين جنسياً الذين لا يتطابق مظهرهم مع جنسهم المحدد عند الولادة.
4) بالإضافة إلى الجنس، يمكن لخوارزميات الذكاء الاصطناعي أيضًا إدامة أشكال أخرى من عدم المساواة على أساس العرق والعمر وحالة الإعاقة والخلفية الاجتماعية والاقتصادية.
على سبيل المثال، يمكن للخوارزمية المصممة لاكتشاف المشاعر في لقطات المراقبة أن تصف السود بشكل خاطئ بأنهم عنيفون أو مجرمون أكثر من الأشخاص البيض.
5)
أخيرًا، يتم تطوير أنظمة الذكاء الاصطناعي من قبل أشخاص يلتزمون هم أنفسهم بالتحيز، مما قد يؤثر على كيفية برمجة تقنياتهم. تم ربط التحيز في تطوير الذكاء الاصطناعي بنقص تمثيل النساء والأقليات في صناعات التكنولوجيا.
لمعالجة هذه المشكلات، يجب على الباحثين العمل على إنشاء مجموعات بيانات أكثر تنوعًا وتدريب خوارزميات الذكاء الاصطناعي للتعرف على التعبيرات غير المناسبة عن الجنس. يجب على الشركات أيضًا تدقيق أنظمة الذكاء الاصطناعي الخاصة بها بحثًا عن التحيز وتنفيذ تدابير حماية لمنع التمييز.
في النهاية، يحتاج المجتمع إلى تحدي المواقف القديمة حول الجنس والجنس حتى يشعر الجميع بالرؤية والاحترام في عالمنا الرقمي المتزايد.
كيف يمكن لتقنيات الذكاء الاصطناعي إعادة إنتاج التحيزات الاجتماعية عند تفسير أو تصنيف الهوية الجنسية ؟
تم تدريب الذكاء الاصطناعي (AI) على كميات كبيرة من البيانات التي تعكس أنماط السلوك البشري والتحيزات. لذلك، يمكن لأنظمة الذكاء الاصطناعي نسخ التحيزات الموجودة في المواد المصدرية المستخدمة لتدريبها، بما في ذلك تلك المتعلقة بالهوية الجنسية.