في السنوات الأخيرة، حققت منظمة العفو الدولية تقدمًا كبيرًا أحدث ثورة في مجالات مختلفة، بما في ذلك التعليم والصحة والتمويل وحتى الترفيه. أحد المجالات التي أظهر فيها الذكاء الاصطناعي وعدًا كبيرًا هو معالجة اللغة الطبيعية (NLP)، والتي تتضمن فهم اللغة البشرية وتوليدها. سمحت هذه التقنية لروبوتات الدردشة بالتواصل مع المستخدمين والمساعدين الافتراضيين مثل Siri و Alexa للاستجابة للطلبات في الوقت الفعلي. ومع ذلك، على الرغم من هذه التطورات، هناك مخاوف بشأن كيفية تعزيز NLP للقوالب النمطية والتحيزات الاجتماعية حول الجنس. تكمن المشكلة الرئيسية في أن خوارزميات NLP تتعلم من البيانات، وإذا كانت البيانات المستخدمة لتدريبها تحتوي على تحيز، فقد تكرر النماذج الناتجة هذه التحيزات.
على سبيل المثال، عند تطوير استجابات روبوت الدردشة لخدمة العملاء، غالبًا ما يعتمد المطورون على المحادثات الحالية بين العملاء والممثلين، والتي قد تعكس المواقف المتحيزة جنسيًا تجاه النساء. إذا تعلمت خوارزمية روبوت الدردشة من مثل هذه البيانات، فقد تؤدي إلى إدامة هذه الصور النمطية، مما يؤدي إلى تفاعلات مسيئة أو غير مناسبة مع العملاء الإناث.
أيضًا، نظرًا لأن معظم المساعدين الصوتيين مبرمجون باستخدام أصوات الذكور، فيمكنهم تعزيز الاعتقاد بأن الرجال يتفوقون على النساء. بالإضافة إلى ذلك، يمكن للأنظمة القائمة على الذكاء الاصطناعي أيضًا تكرار المعايير الجنسانية الضارة من خلال التوصية بمنتجات أو خدمات تناسب الأدوار التقليدية للجنسين.
على سبيل المثال، عندما تستخدم منصة التسوق عبر الإنترنت خوارزمية للتوصية بالملابس بناءً على تفضيلات المستخدم، فقد تقترح الملابس المرتبطة عادةً بجنس واحد فوق الآخر. وبالمثل، قد توصي مواقع البحث عن عمل بوظائف حسب نوع الجنس بدلاً من مجموعة المهارات، مما يحد من الفرص لمجموعات معينة.
لمعالجة هذه المشكلات، اقترح الباحثون عدة حلول، بما في ذلك جمع مجموعات بيانات أكثر تنوعًا وتنفيذ تدابير مكافحة التحيز أثناء تدريب النماذج. كما يدافعون عن المبادئ التوجيهية الأخلاقية وآليات الرقابة لتنظيم تطوير الذكاء الاصطناعي وضمان اتساقه مع القيم الاجتماعية. ومع ذلك، يجادل البعض بأن معالجة هذه القضايا تتطلب تغييرًا مجتمعيًا أوسع لأن التكنولوجيا وحدها لا تستطيع معالجة المعايير والقوالب النمطية الجنسانية الراسخة. في الختام، بينما تقدم تقنيات الذكاء الاصطناعي العديد من الفوائد، يجب النظر بعناية في قدرتها على تعزيز التحيزات الجنسانية. من خلال ضمان الشمولية والإنصاف في جميع مراحل التنمية، يمكننا تسخير القوة الكاملة لـ NLP دون تفاقم الاختلافات الحالية.
كيف يمكن لتقنيات الذكاء الاصطناعي أن تعزز عن غير قصد الصور النمطية أو التحيزات الاجتماعية حول الجنس ؟
أدى استخدام الذكاء الاصطناعي إلى تغيير عالمنا بطرق مختلفة ؛ من الرعاية الصحية والترفيه والنقل والتعليم إلى الأعمال التجارية، ولكن هذا أيضًا بسبب إخفاقاتها. أحدها هو ميل خوارزميات الذكاء الاصطناعي إلى إدامة الصور النمطية الضارة بالمجتمع. وقد تبين على وجه الخصوص أنها تعزز الأدوار السلبية للجنسين والتوقعات التي قد تعوق التقدم نحو المساواة بين الجنسين.