التحيز الخوارزمي هو تحيز غير مقصود أو مقصود موجود في الخوارزميات المستخدمة لاتخاذ القرارات أو التنبؤات بناءً على مجموعات البيانات. يمكن أن يحدث هذا عندما تكون مجموعات معينة ممثلة تمثيلا ناقصا في مجموعات البيانات هذه، مما يؤدي إلى نتائج متحيزة.
إذا تم تدريب الخوارزمية على بيانات حول الأشخاص الذين يميلون إلى أن يكونوا من البيض والذكور، فقد يؤدي ذلك إلى نتائج متحيزة للنساء والأشخاص الملونين. من حيث الرؤية الغريبة والقوالب النمطية على الإنترنت، يلعب التحيز الخوارزمي دورًا مهمًا في تشكيل تمثيل وتصور الهويات الغريبة. غالبًا ما يواجه الأشخاص المثليون الصور النمطية والمفاهيم الخاطئة بسبب هويتهم، مما قد يؤدي إلى استبعادهم من الخطاب السائد.
يمكن لهذه الصور النمطية أيضًا أن تديم نفسها من خلال نتائج محرك البحث، وخلاصات الوسائط الاجتماعية، وغيرها من المنصات عبر الإنترنت التي تعتمد على التوصيات الخوارزمية. ستنظر هذه المقالة في بعض الطرق التي يساهم بها التحيز الخوارزمي في هذه المشكلة.
إحدى الطرق التي يعزز بها التحيز الخوارزمي الاختفاء الغريب هو تأثيره على نتائج محرك البحث. عندما يبحث شخص ما عن معلومات تتعلق بقضايا LGBTQ +، فقد يجد مواقع ويب بها معلومات قديمة أو غير دقيقة، أو حتى مقالات تحتوي على خطاب كراهية أو قوالب نمطية ضارة. يمكن أن يخلق هذا حلقة مفرغة يرى فيها الناس فقط التصورات السلبية للشخصيات المثلية عبر الإنترنت ويفترضون أنه ليس لهم مكان في المجتمع.
نظرًا لتهميش العديد من المجتمعات الغريبة تاريخيًا، فإنها تفتقر إلى الموارد اللازمة لضمان تمثيلها في محركات البحث الرئيسية مثل Google أو Bing. بدون تمثيل كافٍ، تظل هذه المجتمعات غير مرئية للعديد من الأشخاص الذين يسعون للحصول على معلومات عنها عبر الإنترنت.
التحيز الخوارزمي يمكن أن ينشر أيضًا الصور النمطية الضارة عن الأشخاص الغرباء.
عندما تعطي الخوارزميات الأولوية لأنواع معينة من المحتوى على غيرها، مثل مقاطع الفيديو التي تظهر رجالًا بيض متوافقين مع الجنس ينخرطون في رهاب المثلية، يمكنها تطبيع هذا السلوك وجعله أكثر قبولًا مما هو عليه في الواقع. يمكن أن يكون هذا النوع من التحيز مشكلة خاصة للشباب المثليين، الذين قد لا يتمكنون من الوصول إلى معلومات دقيقة حول شخصياتهم في مكان آخر. كما أنه يخلق بيئة يشعر فيها الأشخاص المثليون بعدم الأمان في التعبير عن أنفسهم بحرية عبر الإنترنت خوفًا من استهدافهم من قبل مجموعات الكراهية أو المتصيدون.
التحيز الخوارزمي يمكن أن يديم فكرة أن الشخصيات الغريبة أقل جدارة بالتمثيل من الشخصيات غير المتجانسة. يحدث هذا عندما توصي منصات مثل YouTube بمحتوى مماثل يعتمد فقط على سجل التصفح بدلاً من الأهمية الفعلية أو مستوى الاهتمام. من خلال التوصية بالمحتوى بناءً على ما تم عرضه بالفعل، بدلاً من ما يريد شخص ما مشاهدته بالفعل، فإنه يعزز فكرة أن المحتوى المثلي ليس مهمًا بما يكفي للبحث النشط. يساهم هذا في دورة يستمر فيها المستخدمون في استهلاك الوسائط السائدة، ولا يواجهون أبدًا وجهات نظر أو روايات مختلفة خارج منطقة الراحة الخاصة بهم.
يمكن أن يؤدي التحيز الخوارزمي إلى التمييز ضد الأشخاص الغريبين على تطبيقات المواعدة أو وسائل التواصل الاجتماعي الأخرى. تستخدم العديد من التطبيقات الشائعة الخوارزميات لمطابقة الأشخاص بناءً على الاهتمامات المشتركة أو المظهر، والتي يمكن أن تستبعد الأشخاص الغريبين الذين لا ينتمون إلى هذه الفئات.
تستخدم بعض التطبيقات بيانات من ملفات تعريف المستخدم وتاريخ النشاط لاقتراح التطابق بناءً على الخصائص النمطية، مما يزيد من تهميش الأشخاص الذين لا يلبون تلك التوقعات.
التحيز الخوارزمي هو مجرد عامل واحد يساهم في اختفاء المثليين والقوالب النمطية على الإنترنت ؛ غير أنه يؤدي دورا هاما في تحديد كيفية ظهور هذه المشاكل. من خلال إدراك هذا التحدي، يمكننا البدء في العمل لإنشاء مساحات أكثر شمولاً وإنصافًا عبر الإنترنت لجميع الهويات، بما في ذلك الهويات الفردية.
كيف يؤدي التحيز الخوارزمي إلى إدامة الاختفاء أو الصور النمطية على الإنترنت ؟
يمكن ملاحظة من الأبحاث والاستطلاعات أن الأشخاص المثليين غالبًا ما يواجهون مشاكل عند استخدام منصات التواصل الاجتماعي لأسباب مختلفة مثل رهاب المثلية الجنسية ورهاب المتحولين جنسياً وخناق الجنس. إحدى هذه المشكلات هي وجود التحيز الخوارزمي، والذي يتم تعريفه على أنه ميل الخوارزميات لإدامة الصور النمطية وتعزيز التحيزات الحالية ضد الأفراد الغريبين.