يمكن تعريف التحيزات الخوارزمية على أنها تحيزات تنشأ من البيانات المستخدمة لتدريب الخوارزميات، والتي بعد ذلك تديم نفس التحيزات من خلال تنبؤاتهم وقراراتهم. في السنوات الأخيرة، كان هناك قلق متزايد بشأن كيفية تأثير التحيزات الخوارزمية على تصورات الناس للجنس والجنس عبر الإنترنت. سيدرس هذا المقال كيف يمكن للتحيز الخوارزمي تضخيم الافتراضات المعيارية حول الجنس والجنس بمهارة، لا سيما في سياق تطبيقات المواعدة عبر الإنترنت ومنصات التواصل الاجتماعي.
من المهم ملاحظة أن العديد من الخدمات عبر الإنترنت تعتمد بشكل كبير على المحتوى الذي ينشئه المستخدم مثل الملفات الشخصية والمنشورات لتقديم توصيات شخصية ونتائج التوفيق. تم تصميم هذه الأنظمة لخلق وهم الاختيار مع الحفاظ على اختلال توازن الطاقة بين المستخدمين والمنصات.
على سبيل المثال، عندما ينشئ المستخدم ملفًا شخصيًا على تطبيق مواعدة، يتم تقديمه مع سلسلة من المطابقات المحتملة بناءً على موقعه ونطاق عمره واهتماماته وعوامل ديموغرافية أخرى. ومع ذلك، من الممكن أن تتأثر هذه العملية ببيانات متحيزة أو قوالب نمطية قديمة، مما يؤدي إلى فرص محدودة لأولئك الذين لا يتناسبون مع الفئات التقليدية.
أحد الأمثلة على التحيز الخوارزمي في المواعدة عبر الإنترنت يأتي من OkCupid، وهي منصة مواعدة شائعة تستخدم نظامًا مطابقًا لربط المستخدمين بناءً على الاهتمامات المشتركة. وجدت دراسة أجرتها Data & Society أن خوارزمية OkCupid تفضل الأزواج من جنسين مختلفين على أفراد LGBTQ + بسبب الأنماط التاريخية في بيانات المستخدم. نتيجة لذلك، في حين أن أكثر من نصف جميع الزيجات الجديدة تشمل الآن شريكًا واحدًا على الأقل يحدد أي شيء آخر غير المباشر، فقد يتم تقديم خيارات أقل للمستخدمين الذين لا يعتبرون متوافقين مع الجنس من أولئك الذين يفعلون ذلك. وبالمثل، فإن الخوارزميات التي يستخدمها Facebook و Instagram لتحديد المحتوى الذي يظهر في خلاصات المستخدمين غالبًا ما تكون متحيزة ضد الفئات المهمشة. على سبيل المثال، وجدت دراسة نُشرت في Nature Communications أن النساء أكثر عرضة من الرجال لتلقي إعلانات عن منتجات إنقاص الوزن، مما يديم الأعراف الجنسانية الضارة حول صورة الجسم. بالإضافة إلى ذلك، أظهرت الأبحاث أن الأمريكيين السود هم أكثر عرضة من الأمريكيين البيض لرؤية إعلانات التمييز السكني على وسائل التواصل الاجتماعي، مما يعزز التفاوتات العرقية. يمكن أن تؤدي هذه الأنواع من التحيزات الخوارزمية إلى وجهات نظر ضيقة وتعزز الصور النمطية السلبية حول بعض المجموعات. في الختام، في حين أن العديد من الخدمات عبر الإنترنت تدعي أنها تقدم التخصيص والاختيار، فإنها قد تحد في الواقع من قدرة مستخدميها على الاستكشاف خارج المعايير المعمول بها فيما يتعلق بالجنس والجنس. من خلال دراسة كيفية عمل هذه الأنظمة، يمكننا البدء في تحدي الافتراضات التي تقف وراءها والسعي لخلق بدائل أكثر شمولاً.
من المهم أيضًا للمستخدمين معرفة كيفية استخدام معلوماتهم الشخصية ومشاركتها حتى يتمكنوا من اتخاذ قرارات مستنيرة حول ما يفضلون مشاركته عبر الإنترنت.
هل يمكن للتشوهات الخوارزمية أن تضخم بمهارة الافتراضات المعيارية حول الجنس والجنس عبر الإنترنت ؟
يمكن تعريف التحيزات الخوارزمية على أنها أخطاء منهجية تنشأ عن قرارات متحيزة تتخذها خوارزميات التعلم الآلي بناءً على مجموعات البيانات التي تحتوي على تحيز بشري. يمكن أن يكون لهذه التحيزات عواقب غير مقصودة على المجتمعات المهمشة وتؤدي إلى التمييز. في حالة المنصات عبر الإنترنت مثل وسائل التواصل الاجتماعي، يمكن أن تؤثر هذه التحيزات على كيفية تفاعل الناس مع بعضهم البعض وتكوين علاقات، بما في ذلك تلك المتعلقة بالجنس والجنس.