هل يمكن لنظام خوارزمي تضخيم أو قمع الأصوات الشاذة ؟ تمت مناقشة هذا السؤال لسنوات في دوائر علوم الكمبيوتر، ولكن لا توجد حتى الآن إجابة واضحة. من ناحية، يبدو أن الخوارزميات يمكن أن تساعد في تحديد وتعزيز المجتمعات المهمشة، مثل مجتمع LGBTQ +. من ناحية أخرى، يمكن أن تعزز أيضًا التحيزات الحالية وتفاقم التمييز ضد هذه الجماعات.
الخوارزميات هي صيغ رياضية مصممة لحل المشاكل. يأخذون البيانات وينتجون النتائج بناءً على هذا المدخل. في السنوات الأخيرة، أصبحت ذات أهمية متزايدة في مجالات مثل المالية والصحة والتعليم والسياسة. ولكن عندما يتعلق الأمر بتضخيم أو قمع الأصوات الغريبة، يصبح دورها أكثر تعقيدًا.
إحدى طرق تضخيم الأصوات الغريبة هي من خلال أنظمة التوصية. تقدم هذه الأنظمة مقالات أو مقاطع فيديو أو وسائط أخرى قد يجدها المستخدمون مثيرة للاهتمام. إذا لاحظوا أنماطًا فيما يقرأه الناس أو يشاهدونه، فيمكنهم تصميم توصيات لتعكس هذه الاهتمامات. قد يشمل ذلك محتوى موجه للاستعلام قد يكون من الصعب العثور عليه. ومع ذلك، فإن هذه الخوارزميات لا تعمل دائمًا على النحو المنشود. على سبيل المثال، أظهرت بعض الدراسات أن الموصيين يمكنهم استبعاد المحتوى من بعض المؤلفين إذا استخدموا لغة معينة. قد يعرض آخرون إعلانات تستهدف الرجال المتوافقين مع الجنس، مما يجعل من الصعب على المتحولين جنسياً العثور على المعلومات ذات الصلة. علاوة على ذلك، يمكن لهذه الأنظمة أن تديم الصور النمطية حول الجنس والجنس. قد يفترضون أن الجميع يريد أن يرى المفاهيم التقليدية للعلاقات الرومانسية بين الرجل والمرأة، مما يحد من ظهور الهويات غير المعيارية. وبالمثل، قد يفترضون أن جميع النساء يرغبن في مشاهدة دروس المكياج، متجاهلين معايير الجمال المتنوعة. لحل هذه المشكلة، بدأت الشركات في تطوير خوارزميات أكثر شمولاً. تأخذ بعض المنصات الآن في الاعتبار عوامل مثل العرق والعرق والإعاقة عند إنشاء عروض المحتوى. يسمح البعض الآخر للمستخدمين بتخصيص تفضيلاتهم من خلال تحديد فئات الهوية. ومع ذلك، لا يزال هناك مجال كبير للتحسين. تلعب الخوارزميات أيضًا دورًا مهمًا في مضايقة الأشخاص الغريبين عبر الإنترنت. أصبح خطاب الكراهية، و doxxing (مشاركة المعلومات الشخصية في الأماكن العامة) وأشكال أخرى من الإساءة شائعة على وسائل التواصل الاجتماعي. غالبًا ما تعتمد هذه المنصات على خوارزميات التعلم الآلي للإشارة إلى المنشورات المسيئة المحتملة. لكنهم في بعض الأحيان لا يعترفون بالأقوال والأفعال الضارة. بالإضافة إلى ذلك، يمكن أن تساهم الأنظمة الخوارزمية بشكل غير مباشر في التمييز ضد مجتمعات LGBTQ +.
على سبيل المثال، غالبًا ما تستخدم مواقع التوظيف الكلمات الرئيسية لمطابقة المرشحين لفتح المناصب. إذا استبعدت هذه الكلمات الرئيسية المصطلحات المرتبطة بالهويات غير الثنائية أو متعددة الزوجات، فقد يؤدي ذلك إلى التحيز.
بشكل عام، لا يمكن أن تكون الأنظمة الخوارزمية محايدة تمامًا من حيث تضخيم أو قمع الأصوات الغريبة. في حين أن لديها القدرة على دعم التنوع، يجب تصميمها واختبارها بعناية لمنع العواقب غير المقصودة. يجب على المطورين وصانعي السياسات ضمان استخدام هذه الأدوات بشكل مسؤول وعادل.
هل يمكن للأنظمة الخوارزمية أن تكون محايدة عند تضخيم أو إسكات الأصوات الغريبة ؟
كان صعود الأصوات الغريبة قضية مستمرة لسنوات، حيث غالبًا ما يواجه الناس التمييز والتحيز والاستبعاد من المجتمع السائد. في حين أن التكنولوجيا قد تبدو وكأنها حل واعد لهذه المشكلة، إلا أن هناك سببًا للاعتقاد بأنها لا تستطيع القيام بذلك بشكل محايد تمامًا. تم تصميم الأنظمة الخوارزمية من قبل أشخاص لديهم تحيزاتهم ومعتقداتهم الخاصة التي يمكن أن تشكل كيفية تفسير البيانات واتخاذ القرارات.