الخوارزميات هي برامج حاسوبية يمكنها معالجة البيانات لحل المشكلات. إنهم يعملون على الصيغ الرياضية والمنطق. تُستخدم الخوارزميات في كل مكان - من محركات البحث إلى قنوات التواصل الاجتماعي وتطبيقات المواعدة عبر الإنترنت. ولكن كيف تعكس الخوارزميات التحيزات الاجتماعية التي تهمش الأصوات الغريبة ؟
في هذه المقالة، أستكشف كيف تؤثر التحيزات الخوارزمية على الأشخاص المثليين وكيف تديم عدم المساواة. سأقدم أيضًا أمثلة على سيناريوهات الحياة الواقعية حيث تعرض الأشخاص المثليون للتمييز بسبب التحيز الخوارزمي. أخيرًا، سأقدم بعض الحلول لتقليل التحيز الخوارزمي.
التحيز الخوارزمي
الخوارزميات مصممة من قبل أشخاص يمكنهم حقن تحيزاتهم عن غير قصد في الكود. وهذا يعني أن الخوارزميات يمكن أن تعكس الأعراف الاجتماعية والتحيزات التي غالبًا ما تهمش الأصوات الغريبة.
على سبيل المثال، قد يُظهر موقع التسوق عبر الإنترنت إعلانات مختلفة للرجال والنساء بناءً على القوالب النمطية الجنسانية حول ما يجب عليهم شراؤه. وبالمثل، قد تفضل خوارزمية طلب الوظيفة المتقدمين المباشرين على المتقدمين الفرديين لأن الشركة تعتقد أن المغايرة الجنسية أكثر انتشارًا في الصناعة.
أمثلة التحيز الخوارزمي
أحد الأمثلة الحديثة على التحيز الخوارزمي كان عندما قدمت Tinder درجات «Elo» لمطابقة المستخدمين. يجب أن تقيس درجة Elo التوافق بين شخصين. ومع ذلك، اتضح أن الخوارزمية تفضل الأفراد البيض والمتوافقين مع الجنس والمتغايرين، على الرغم من أن هذه الخصائص لم تكن جزءًا من معايير الامتثال. نتيجة لذلك، شعر العديد من الأشخاص المثليين بالاستبعاد من المنصة وتركوها تمامًا. مثال آخر هو تقنية التعرف على الوجه، والتي ثبت أنها تخطئ في تعريف الأفراد المتحولين وغير الثنائيين على أنهم الجنس المخصص لهم عند الولادة. يمكن أن يؤدي ذلك إلى مواقف خطيرة حيث يستخدم ضباط إنفاذ القانون بيانات غير صحيحة للقبض على شخص ما أو مقاضاته.
حلول الحد من التحيز الخوارزمي
لتقليل التحيز الخوارزمي، يجب أن تكون الشركات شفافة بشأن كيفية عمل خوارزمياتها وجمع مجموعة متنوعة من التعليقات من المستخدمين. كما يحتاجون إلى توظيف مطورين من خلفيات ووجهات نظر مختلفة لضمان تمثيل جميع الأصوات في عملية التصميم.
أخيرًا، يجب عليهم تنفيذ ضوابط جودة قوية للتحقق من التحيز قبل إصدار منتجات أو تحديثات جديدة. في الختام، يمكن للخوارزميات أن تديم التحيزات الاجتماعية ضد الأشخاص المثليين من خلال التعبير عن المعايير والتحيزات. يجب على الشركات اتخاذ خطوات للحد من هذا التحيز من خلال الشفافية بشأن خوارزمياتها ودمج وجهات نظر مختلفة في التطوير. إذا أردنا إنشاء مجتمع أكثر عدلاً، فيجب علينا معالجة التحيز الخوارزمي وجهاً لوجه.
كيف تعكس الخوارزميات التحيزات الاجتماعية التي تهمش أصوات المثليين ؟
إحدى الطرق التي يمكن أن تعكس بها الخوارزميات التحيزات الاجتماعية هي من خلال تصميمها وتنفيذها. نظرًا لأن الخوارزميات يتم إنشاؤها بواسطة البشر، فيمكنها تضمين قيم ومعتقدات معينة شائعة في المجتمع. هذا يعني أنه من المرجح أن يكون لديهم ميزة على الآخرين، مثل التغاير أو التباين بين الجنسين.