أصبحت مسألة كيفية استخدام الذكاء الاصطناعي لتمثيل الهوية الجنسية ذات أهمية متزايدة في السنوات الأخيرة. مع استمرار تطور التكنولوجيا، تتطور أيضًا قدرتها على محاكاة السلوك البشري. مع ذلك تأتي إمكانية تقنيات الذكاء الاصطناعي لتضخيم التحيزات الاجتماعية أو تشوهات الهوية الجنسية عن غير قصد. تتمثل إحدى الطرق التي يمكن أن يحدث بها ذلك في استخدام الخوارزميات ومجموعات البيانات التي تعتمد على الهياكل والمعايير الاجتماعية الحالية. إذا لم يتم تصميم هذه الأنظمة بفهم الفروق الدقيقة في الهوية الجنسية، فيمكنها إدامة الصور النمطية أو التبسيط المفرط حول ما يعنيه أن تكون رجلاً أو امرأة.
على سبيل المثال، يمكن لخوارزمية التعلم الآلي التعلم من البيانات التي تربط سمات معينة بكل جنس، مثل العدوانية المرتبطة بالذكورة أو الأبوة والأمومة المرتبطة بالأنوثة. يمكن أن يؤدي ذلك إلى افتراضات غير صحيحة حول الأشخاص بناءً على جنسهم فقط، مما قد يكون له عواقب وخيمة على الأشخاص الذين لا يتوافقون مع الأدوار التقليدية للجنسين. مجال آخر حيث قد تضخم تقنيات الذكاء الاصطناعي عن غير قصد التحيزات الاجتماعية أو تشوهات الهوية الجنسية هو معالجة اللغة ومعالجة اللغة الطبيعية. تتضمن معالجة اللغة الطبيعية تعليم أجهزة الكمبيوتر لفهم الكلام البشري، وعلى الرغم من أن هذا مهم لتطوير تقنيات مثل المساعدين الصوتيين وروبوتات الدردشة، إلا أنه يمكن أيضًا أن يخلق مشاكل إذا لم يتعرف النظام على طرق مختلفة للتحدث أو الكتابة. من الممكن أن يفسر الروبوت لهجة الشخص أو لهجته على أنها ممثلة لمنطقة أو مجموعة عرقية معينة ثم يضع افتراضات بشأنها بناءً على تلك المعلومات. وبالمثل، إذا تم تدريب برنامج الكمبيوتر على نص مكتوب يستخدم لغة جنسانية، فقد لا يكون قادرًا على التمييز بين شخص يستخدم الضمائر والضمائر غير الثنائية، مما قد يؤدي إلى افتراضات غير صحيحة حول هوية الكاتب. أخيرًا، هناك قلق من إمكانية استخدام تقنية الذكاء الاصطناعي لتتبع الأشخاص ومراقبتهم بناءً على هويتهم الجنسية المتصورة. يمكن استخدام برنامج التعرف على الوجه، على سبيل المثال، لتحديد الأشخاص المتحولين جنسيًا من خلال النظر إلى الميزات التي ترتبط عادةً بجنس واحد ولكن ليس بجنس آخر، مما قد ينتهك حقوق الخصوصية.
بشكل عام، من المهم للمطورين النظر في كيفية قيام تقنيتهم بإدامة الهياكل والمعايير الاجتماعية الحالية عند إنشاء منتجات مصممة لتمثيل الهوية الجنسية. يجب أن يسعوا جاهدين لتطوير أنظمة شاملة وتعكس جميع الأجناس، وليس فقط تلك التي تتناسب مع الفئات الثنائية.
كيف يمكن لتقنيات الذكاء الاصطناعي تضخيم التحيزات الاجتماعية أو تشوهات الهوية الجنسية عن غير قصد ؟
على الرغم من تزايد شعبيتها وإمكانية الابتكار، فإن تقنيات الذكاء الاصطناعي قد تضخم التحيزات الاجتماعية وتشوهات الهوية الجنسية بسبب اعتمادها على مصادر البيانات التي قد لا تعكس التنوع بين الجنسين. يمكن أن تكون بيانات التدريب التي تستخدمها خوارزميات الذكاء الاصطناعي محدودة النطاق ويمكن أن تديم الصور النمطية الضارة أو المضللة.