خوارزمية "تويتر" تتحيز ضد اللغة العربية

توصل باحثون إلى أنّ خوارزمية اقتصاص الصور على "تويتر" تمارس التحيز بأشكال عديدة، من بينها تحيزات ضد اللغة العربية، وذلك عقب مسابقة أطلقتها الشركة في يوليو/ تموز تعرض مكافأة مقابل رصد التحيز في خوارزمية المنصة.  

وفازت مؤسِّسة Taraaz Research، رويا باكزاد، بالجائزة الثالثة لأنها كشفت أنّ الخوارزمية كانت أكثر احتمالاً لاقتطاع النص العربي من الإنكليزية في النكات المصورة. 

واعتمدت باحثة السياسة التكنولوجية على "الميمز" (نكات مصورة) ثنائية اللغة لتوضيح وجهة نظرها، من خلال الحفاظ على اتساق حجم الخط والنمط.

وأوضحت أنّ خوارزمية اقتصاص الصور في "تويتر" تركز على النص اللاتيني بدلاً من النص العربي على الأقل 90 بالمئة من الوقت.

وأظهر مختلف الفائزين في المسابقة كيف انحرفت تقنية اقتصاص الصور في المنصة عندما تعلّق الأمر بعوامل مثل المظهر والعمر واللغة.

وتقرر الخوارزمية كيفية اقتصاص الصور في معاينات "تويتر"، قبل النقر عليها لفتحها ورؤيتها بالحجم الكامل. لكن عندما يكون هناك وجهان في الصورة نفسها، اكتشف المستخدمون أنّ "تويتر" يفضل مقطع المعاينة للوجوه البيضاء، ويخفي الوجوه السوداء، حتى ينقر المستخدمون عليها.

وكان هذا النمط صحيحاً بالنسبة إلى صور الرئيس الأميركي السابق، باراك أوباما، والسناتور، ميتش ماكونيل، ولصور تعبيرية لرجال أعمال ينتمون إلى أعراق مختلفة.

وأظهر التحليل اللاحق الخاص بـ"تويتر" "فرقاً بنسبة 4% في التكافؤ الديموغرافي لمصلحة الأفراد البيض".

تكنولوجيا

التحديثات الحية

"تويتر" تقدم مكافآت لمن يرصد تحيزاً في خوارزمياتها

وجاءت المرتبة الأولى في المسابقة من نصيب بوغ دان كولينيك، وهو طالب دراسات عليا في المعهد الفدرالي السويسري للتكنولوجيا في مختبر هندسة الخصوصية والأمان في لوزان، الذي فاز بمبلغ 3500 دولار.

واكتشف كولينيك أنه يمكن زيادة "بروز" الوجه في الصورة، ما يقلل من احتمالية إخفائه بواسطة خوارزمية الاقتصاص، من طريق "جعل جلد الشخص أفتح أو أكثر حرارة وأكثر نعومة، وغالباً ما يتغير المظهر إلى مظهر شخص أصغر سناً وأكثر نحافة وأنوثة بشكل نمطي".

من جانبها، ردت "تويتر" بأنّ اكتشافه أظهر إمكانية استخدام مرشحات الجمال للتلاعب بالخوارزمية و"كيف تضخم النماذج الخوارزمية التحيزات في العالم الحقيقي والتوقعات المجتمعية للجمال".

وذهبت الجائزة الثانية للشركة الناشئة Halt AI، التي قالت إن خوارزمية "تويتر" يمكن أن تديم التهميش في طريقة اقتصاص الصور. على سبيل المثال، "هُمِّش المزيد من صور كبار السن وذوي الاحتياجات الخاصة".