“فقاعات التصفية” وعنصريّة خوارزميّات مواقع التواصل الاجتماعيّ

سلطت دراسة جديدة الضوء على انتشار العنصرية في خوارزميات وسائل التواصل الاجتماعي ، وتحليل دقة الخوارزميات للكشف عن خطاب الكراهية على تويتر ، ووجدت أن هذه الخوارزميات أقل دقة عند ملاحظة خطاب الكراهية الموجه نحو النساء والأشخاص الملونين.

بعد استحواذ الملياردير الأمريكي إيلون ماسك على منصة “تويتر” ، تزايدت الانتقادات التي تزعم صعود محتوى الكراهية على المنصة ، وكذلك لم تُستثنى المنصات الأخرى من مثل هذه الاتهامات ، مما فتح باب النقاش حول ما يسمى بـ “العنصرية”. الخوارزميات “واستغلالها للمنصة ، لتسليط الضوء على القضايا التي تتفق مع سياساتها ، وتحييد القضايا الأخرى.

أدى الاستخدام الواسع لمنصات التواصل الاجتماعي إلى تغيير الطريقة التي يتفاعل بها الأشخاص مع بعضهم البعض ، لأن وسائل التواصل الاجتماعي مكنت الناس من التواصل مع الآخرين من جميع أنحاء العالم ، والمشاركة في المناقشات ، وتبادل الأفكار ، ومواكبة الأخبار والمعلومات. تم انتقادها أيضًا لكونها أرضًا خصبة للعنصرية وخطاب الكراهية ، حيث تلعب خوارزميات وسائل التواصل الاجتماعي دورًا رئيسيًا في إدامة المحتوى العنصري وتضخيمه.

قال باحثون إن انتشار العنصرية في خوارزميات مواقع التواصل الاجتماعي قضية خطيرة تتطلب اهتمامًا وعملًا من شركات التواصل الاجتماعي. المبدعين.

وفقًا للخبراء ، تمت برمجة خوارزميات الوسائط الاجتماعية لتزويد المستخدمين بمحتوى مخصص بناءً على سلوكهم عبر الإنترنت ، بما في ذلك الإعجابات والتعليقات وسجل البحث ، ويشير هذا المحتوى المخصص إلى إبقاء المستخدمين على المنصة ، مما يؤدي إلى زيادة الوقت الذي يقضونه. على المنصة ، وتحقيق الدخل. في نهاية المطاف ، بالنسبة لشركة وسائل التواصل الاجتماعي ، وجد أن الخوارزميات التي تقود هذه التوصيات متحيزة ومنحازة تجاه مجموعات معينة من الناس ، مما يديم المحتوى العنصري والضار.

دراسة تسلط الضوء على انتشار العنصرية في خوارزميات وسائل التواصل الاجتماعي هي “التمييز من خلال التحسين: كيف يمكن أن يؤدي تسليم الإعلانات على Facebook إلى نتائج مشوهة” بواسطة Keithin Tuner. فحصت الدراسة عرض الإعلانات على Facebook ووجدت أن خوارزميات النظام غير متسقة بشكل أساسي في عرض الإعلانات. لفرص العمل والسكن للمستخدمين البيض ، بينما يتم عرض إعلانات على المستخدمين السود واللاتينيين لخدمات إصلاح الائتمان وعمليات الإنقاذ. ووجدت الدراسة أيضًا أن المعلنين الذين يستخدمون نظام عرض الإعلانات على Facebook يمكنهم استهداف الإعلانات على أساس العرق والجنس وعوامل التمييز الأخرى ، مما يؤدي إلى استمرار العنصرية المنهجية.

في دراسة أخرى تسلط الضوء على انتشار العنصرية في خوارزميات وسائل التواصل الاجتماعي ، بعنوان “التعرض للأخبار والآراء المتنوعة إيديولوجيًا على Facebook” ، قامت الخوارزمية بتحليل موجز أخبار Facebook ووجدت أن خوارزمية المنصة تروج لمحتوى يتوافق مع معتقدات المستخدمين الحالية وقيمهم. . يؤدي هذا إلى تأثير “فقاعة التصفية” الذي يعزز التحيزات الموجودة ويمنع التعرض لوجهات نظر مختلفة. وجدت الدراسة أيضًا أن تأثير فقاعة التصفية هذا يؤثر بشكل غير متناسب على المستخدمين الذين يعتبرون محافظين ، مما يؤدي إلى عدم التعرض لمحتوى متنوع أيديولوجيًا.

سلطت دراسة جديدة الضوء على انتشار العنصرية في خوارزميات وسائل التواصل الاجتماعي ، وتحليل دقة خوارزميات الكشف عن الكلام الذي يحض على الكراهية على تويتر ، ووجدت أن هذه الخوارزميات أقل دقة عند اكتشاف خطاب الكراهية الموجه إلى النساء والملونين ، وخلصت إلى أن هذه غالبًا ما يتم تصنيف التغريدات غير البغيضة على أنها كلام يحض على الكراهية ، مما يؤدي إلى نقص الفهم الصحيح للسياق واللغة المستخدمة في خطاب الكراهية عبر الإنترنت.

وفقًا للمسؤولين ، تُظهر هذه الدراسات طبيعة العنصرية في خوارزميات وسائل التواصل الاجتماعي وافتقارها إلى الحياد ، لأن هذه التحيزات والقيم غالبًا ما تكون غير مرئية ومخفية وراء خوارزمية معقدة يصعب فهمها أو تحليلها.

يدعو خبراء وسائل التواصل الاجتماعي إلى مزيد من الاستثمار في ممارسات أكثر تنوعًا وشمولية ، للتأكد من أن الفرق المسؤولة عن إنشاء الخوارزميات وصيانتها تمثل التركيبة السكانية المختلفة التي تستخدم منصاتهم ، من خلال دمج مجموعة واسعة من وجهات النظر والخبرة الحسابية. عمليات صنع القرار.