يمكن استخدام الذكاء الاصطناعي لأتمتة المهام التي تتطلب معالجة اللغة الطبيعية (NLP)، مثل روبوتات الدردشة لدعم العملاء. غالبًا ما يتم تدريب روبوتات الدردشة هذه باستخدام مجموعات البيانات التي تحتوي على كميات هائلة من البيانات من مجموعة متنوعة من المصادر، بما في ذلك منشورات وسائل التواصل الاجتماعي والمنتديات عبر الإنترنت حيث يناقش الأشخاص تجاربهم فيما يتعلق بالهوية الجنسية. عندما يحدث هذا، يمكن للذكاء الاصطناعي تكرار المفاهيم الخاطئة عن غير قصد أو حتى الصور النمطية الضارة عن الأشخاص المتحولين جنسيًا. وذلك لأن الخوارزميات التي تقود هذه الأنظمة تعتمد على الأنماط التي تجدها في بيانات التدريب، ويمكنها في النهاية تضخيم هذه التحيزات دون إدراك ذلك.
على سبيل المثال، إذا كانت مجموعة البيانات تحتوي على تعليقات سلبية حول مظهر الأشخاص المتحولين جنسيًا، فقد يؤدي ذلك إلى إبداء روبوت الدردشة ملاحظات مهينة عند التواصل معهم. وبالمثل، إذا تضمنت مجموعة البيانات لغة قديمة أو افتراضات حول أدوار الجنسين، فقد يستخلص روبوت الدردشة استنتاجات أو أحكامًا غير صحيحة بناءً على هذه التحيزات. هناك طريقة أخرى يمكن للذكاء الاصطناعي من خلالها إدامة سوء الفهم حول الهوية الجنسية وهي من خلال التعرف البصري. من المعروف أن برنامج التعرف على الوجه يعاني من التعرف على الوجه غير الثنائي بسبب عدم وجود بيانات تدريب شاملة للتعبير عن الجنس تتجاوز المتغيرات الثنائية للذكور/الإناث. يمكن أن يؤدي ذلك إلى ممارسات استثنائية، مثل إجبار الأشخاص على استخدام أسمائهم القانونية بدلاً من الضمائر المفضلة، والتي يمكن أن تبطل هويتهم. بالإضافة إلى ذلك، تستخدم تقنية التعرف على الوجه بشكل شائع في التدابير الأمنية مثل فحص المطار، مما قد يؤدي إلى التمييز ضد الأفراد الذين لا يتطابقون مع المفاهيم التقليدية للذكورة أو الأنوثة. تتجاوز المشكلة أنظمة الذكاء الاصطناعي. في بعض الحالات، قد يكون لدى مطوري الذكاء الاصطناعي أنفسهم تحيز غير واعي تجاه أجناس معينة، مما يقودهم إلى تطوير منتجات تعزز ديناميكيات القوة الحالية في المجتمع. هذه مجرد أمثلة قليلة على كيف يمكن للذكاء الاصطناعي أن يساهم عن غير قصد في التحيز الجنسي والصفة. لمكافحة هذه المشكلة، من المهم للشركات التي تطور أدوات الذكاء الاصطناعي أن تضع في اعتبارها تأثيرها المحتمل على الفئات المهمشة وضمان سماع جميع الأصوات أثناء عملية التنمية. يجب على المطورين أيضًا العمل عن كثب مع خبراء من المجتمعات الممثلة تمثيلاً ناقصًا والذين يمكنهم تقديم نظرة ثاقبة حول أي قضايا رئيسية يجب معالجتها قبل إطلاق منتجات جديدة.
بشكل عام، بينما يوفر الذكاء الاصطناعي العديد من الفرص للابتكار، يجب أن نظل يقظين في منعه من تعزيز الصور النمطية الضارة المرتبطة بالهوية الجنسية.
كيف يمكن للذكاء الاصطناعي تكرار التحيزات أو سوء الفهم عن غير قصد حول الهوية الجنسية ؟
قد يؤدي استخدام الذكاء الاصطناعي (AI) إلى إدامة التحيزات والمفاهيم الخاطئة فيما يتعلق بالهوية الجنسية بسبب تأثرها بالبيانات المستخدمة لتدريبها. قد تعكس هذه البيانات تحيز الهوية الجنسية، مما قد يتسبب في تكرار نظام الذكاء الاصطناعي لهذه التحيزات في صنع القرار.