طريق التمييز في "فيسبوك" معبّد بقصور لغوي... كيف يتعامل مع المحتوى باللغة العربية؟

تتوالى تسريبات الوثائق الداخلية والتبليغات عن ممارسات شركة "فيسبوك" بحقّ المستخدمين، وانتهاكها لحقوقهم، تحديداً في التعبير، ما يُغرق الشركة في أزماتٍ جديدة. هذا الأسبوع، أشارت تقارير جديدة إلى أن "فيسبوك" سمحت لخطاب الكراهية بالازدهار على الصعيد الدولي بسبب القصور اللغوي، وأكدت أن عملاق التواصل الاجتماعي يعرف أن خوارزميته تغذي الاستقطاب السام عبر الإنترنت.

التقارير التي نُشرت الاثنين الماضي، اعتمدت على آلاف الوثائق الداخلية التي راجعتها مواقع إخبارية أميركية. الوثائق المذكورة قدمتها الموظفة السابقة في "فيسبوك" فرانسيس هوغن، لدعم ما كشفته في شهادة لها أمام "لجنة الأوراق المالية والبورصات"، وقدمها مستشارها القانوني إلى الكونغرس بصيغة منقحة. وحصل على النسخ المنقحة 17 وكالة أنباء أميركية، بينها "سي أن أن" و"واشنطن بوست" و"أسوشييتد برس" و"نيويورك تايمز".

تزعم هوغن أن الوثائق تؤكد أن شركة "فيسبوك" فضلت مراراً مصالحها المالية على سلامة مستخدميها، ما دفع الولايات المتحدة إلى تشديد تدقيقها في نشاط عملاق التواصل الاجتماعي. كانت صحيفة "وول ستريت جورنال" قد بدأت بنشر هذه الوثائق منتصف سبتمبر/أيلول الماضي تحت عنوان Facebook Files، قبل أن تصل إلى المؤسسات الإعلامية الأخرى. وأعلنت شركة "فيسبوك" أرباحاً ربع سنوية تزيد على 9 مليارات دولار أميركي الاثنين، بزيادة نسبتها 19 في المائة، بعد ساعات من نشر تقارير إخبارية حول نشاطاتها. وأعلنت أيضاً ارتفاع عدد مستخدميها إلى 2.91 مليار شخص.

قضيّة "القصور اللغوي" كانت الأبرز ممّا كُشف عنه، إذ كشفت عن ممارسات إقصائيّة حول العالم بسبب عدم فهم اللغات، وبينها تحديداً ما يحصل في العالم العربي. فقد أفادت "واشنطن بوست" و"رويترز" و"أسوشييتد برس" بأن "فيسبوك" كافحت لضبط المحتوى الذي يغذي خطاب الكراهية والعنف في البلدان النامية، وبينها الهند. جزء من المشكلة، أن "فيسبوك" لم توظف عدداً كافياً من المشرفين على المحتوى الذين يمتلكون المهارات اللغوية المناسبة والسياق الثقافي. وكتب ساميد شاكرابارتي الذي كان مسؤولاً عن قسم النزاهة المدنية في "فيسبوك"، في مذكرة داخلية عام 2019 اطلعت عليها صحيفة "واشنطن بوست": الحقيقة المؤلمة أننا ببساطة لا نستطيع تغطية العالم بأسره بمستوى الدعم نفسه".

اللغة العربية ثالث أكثر اللغات استخداماً على فيسبوك من ملايين حول العالم

زاد عدد متابعي "فيسبوك" زيادة هائلة خلال انتفاضات الربيع العربي عام 2011، من مستخدمين عرب وجدوا فيه فرصة نادرة للتعبير بحرية ومصدراً للأخبار في منطقة تمارس فيها الحكومات ضوابط صارمة على كليهما. لكن كل ذلك تغير في السنوات الأخيرة، فحُذفَت حسابات العشرات من الصحافيين والنشطاء الفلسطينيين. واختفت أرشيفات الحرب الأهلية السورية. وأصبحت المصطلحات العادية محظورة على المتحدثين باللغة العربية، ثالث أكثر اللغات استخداماً على فيسبوك من ملايين حول العالم.

فيسبوك وفلسطين: حذف ومحاباة للاحتلال

في مايو/أيار الماضي، خلال الهبّة الشعبية الفلسطينية والعدوان على غزة، حظر تطبيق "إنستغرام" لفترة وجيزة وسم "الأقصى"، في إشارة إلى المسجد الأقصى في البلدة القديمة بالقدس. اعتذرت شركة فيسبوك، التي يتبعها تطبيق إنستغرام، لاحقاً وأوضحت أن خوارزمياتها أخطأت في اعتبار ثالث أقدس موقع في الإسلام جماعة كتائب شهداء الأقصى، وهي فرع مسلح من "حركة فتح". بالنسبة إلى العديد من المستخدمين الناطقين بالعربية، كان هذا مثالاً قوياً على كيفية قيام وسائل التواصل الاجتماعي بتكميم الخطاب السياسي في المنطقة. تلقى حسن اصليح، الصحافي البارز في قطاع غزة المحاصر، إشعاراً من فيسبوك يقول: "تم وقف حسابك بسبب انتهاك معايير مجتمع فيسبوك"، وذلك في ذروة حرب غزة عام 2014، بعد تصنيف منشوراته الإخبارية على أنها انتهاكات لمعايير فيسبوك، وفق ما نقلت "أسوشييتد برس". في لحظات كان قد فقد كل ما جمعه خلال ست سنوات: ذكرياته، وتقارير عن غزة، وصور لغارات جوية وقصف إسرائيلي للقطاع، والأهم من ذلك 200000 شخص كانوا يتابعونه. ولم تكن تلك المرة الأولى التي يوقف فيها حسابه، بل السابعة عشرة، وتعين عليه أن يبدأ من الصفر. تعلم اصليح الدرس، فبات يتجنب كلمات مثل "شهيد" و"أسير"، وإذا كتب عن جماعات مسلحة، يُضيف رموزاً أو مسافات بين الحروف، في عمليات التفاف بات هو وغيره يجيدونها لخداع خوارزميات فيسبوك. من ذلك استخدام كتابة عربية يعود عمرها إلى قرون لا تستخدم النقاط أو الهمزات التي تساعد على التمييز بين الأحرف المتشابهة. إلا أن اصليح يعتقد أنه حُظر لمجرد قيامه بعمله مراسلاً في غزة، ينشر صور المتظاهرين الفلسطينيين المصابين، والأمهات اللاتي يبكين أبناءهن، وتصريحات من "حركة حماس".

إعلام وحريات

التحديثات الحية

حرب إعلامية فلسطينية على رواية الاحتلال

وجاء في إحدى وثائق فيسبوك أن الوضع الحالي "يحد من مشاركة المستخدمين (العرب) في الخطاب السياسي، ما يعوق حقهم في حرية التعبير". تضم القائمة السوداء لفيسبوك حركة حماس في غزة، وحزب الله في لبنان، والعديد من الجماعات الأخرى التي ينتمي إليها الكثيرون في الشرق الأوسط، كما تظهر الوثائق الداخلية. وقالت مي المهدي، الموظفة السابقة في فيسبوك، التي كانت تعمل على تعديل المحتوى العربي حتى عام 2017 "إذا نشرت عن نشاط متشدد دون إدانته بوضوح، فستعامل كما يعامل هذا النشاط". لكن رداً على "أسوشييتد برس"، أوضحت شركة فيسبوك أنها تسعى لتطوير سياسات الاعتدال بها من خلال خبراء مستقلين لضمان عدم انحيازهم إلى دين أو منطقة أو منظور سياسي أو أيديولوجي. وأضافت: "نعلم أن أنظمتنا ليست مثالية".

أجهزة الأمن الإسرائيلية تراقب فيسبوك وتغرقه بآلاف الأوامر لحذف حسابات ومنشورات فلسطينية تعتبرها تحريضية

وأشارت "أسوشييتد برس" إلى أنّ موظفين سابقين في الشركة يقولون إن بعض الحكومات تمارس ضغوطاً على الشركة، وتهدد بغرامات، ما يدعم فرضيات ينشرها الناشطون مطالبين الشبكة بالشفافية. وأوضحت أنّ إسرائيل هي "مصدر مربح لعائدات الإعلانات على فيسبوك"، مشيرةً إلى أنّ فيها المكتب الوحيد لـ"فيسبوك" في المنطقة، مضيفةً أنّ "أجهزة الأمن الإسرائيلية تراقب فيسبوك وتغرقه بآلاف الأوامر لحذف حسابات ومنشورات فلسطينية تعتبرها تحريضية". وقال أشرف زيتون، الرئيس السابق لسياسة منطقة الشرق الأوسط وشمال أفريقيا في الشركة، الذي غادرها عام 2017: "إنهم يهيمنون على أنظمتنا ويتغلبون عليها، ما يجبر على ارتكاب أخطاء لمصلحة إسرائيل".

حذف الأرشيف السوري على فيسبوك

كذلك اشتكى الصحافيون والناشطون السوريون الذين يغطون أخبار المعارضة في البلاد، من الرقابة مع قيام كتائب إلكترونية تدعم الرئيس بشار الأسد بالشكوى بشكل متكرر من محتوى المعارضة لإزالته. وقال رائد، وهو مراسل سابق في مركز حلب الإعلامي المعارض، اكتفى بذكر اسمه الأول فقط خشية الانتقام، لـ"أسوشييتد برس"، إن فيسبوك أزال معظم توثيق قصف الحكومة السورية للأحياء والمستشفيات... وأضاف: "يبلغنا فيسبوك دائماً أننا نخرق القواعد، لكنه لا يخبرنا ما هي القواعد".

وتقول إحدى الوثائق: "في كثير من أنحاء العالم العربي، تعتمد شركة فيسبوك بشكل مفرط على مرشحات الذكاء الاصطناعي التي ترتكب أخطاء". أما عندما تستعين شركة فيسبوك بالبشر في عمليات تعديل المحتوى، فإنها تعتمد على مجموعة عاملين محليين معظمهم من المغاربة الذين يبدو أنهم يبالغون في قدراتهم اللغوية. وتقول إحدى الوثائق إنهم غالباً ما يتوهون وسط ترجمة 30 لهجة عربية مختلفة، ويشيرون إلى منشورات عربية غير مسيئة على الإطلاق على أنها محتوى إرهابي في 77 بالمائة من المرات.

يحتل العراق المرتبة الأولى في المنطقة من حيث بلاغات خطاب الكراهية على فيسبوك

إحصائياً، يحتل العراق المرتبة الأولى في المنطقة من حيث بلاغات خطاب الكراهية على فيسبوك. وقال ناشط في مجال حرية الصحافة في بغداد لـ"أسوشييتد برس"، تحدث بشرط عدم الكشف عن هويته خشية الانتقام: "يحاول الصحافيون فضح انتهاكات حقوق الإنسان، لكن يتم حظرنا فوراً. نحن نفهم أن فيسبوك يحاول الحد من تأثير المليشيات، لكن الأمر لا يسير على هذا النحو".

"أخطاء" فيسبوك التي تؤدي إلى قمع التعبير لا تقتصر على اللغة العربية فقط؛ إذ يكشف فحص الملفات أنه في أكثر المناطق اضطراباً في العالم يتم نشر محتوى الإرهاب وخطاب الكراهية لأن الشركة لا تزال تفتقر إلى موظفين يتحدثون اللهجات المحلية ويفهمون السياق الثقافي. كما أنها فشلت في تطوير حلول إلكترونية تمكنها من كشف المحتوى السلبي باللغات المحلية المختلفة. في أفغانستان وميانمار مثلاً، سمحت هذه الثغرات بانتشار المحتوى الإرهابي وخطاب الكراهية والتحريض، لكن في سورية والأراضي الفلسطينية، يقوم موقع فيسبوك بحظر مصطلحات وكلمات شائعة ليست ذات "مدلول إرهابي" أو يحض على كراهية. وقال متحدث باسم شركة فيسبوك لـ"أسوشييتد برس" إنه على مدار العامين الماضيين قامت الشركة بتعيين المزيد من الموظفين المطلعين على الثقافات واللغات المحلية، في محاولة لتجنب تلك المسألة الشائكة.

تكنولوجيا

التحديثات الحية

"فيسبوك" تغرق أكثر في أزمتها: آخر ما كشفت عنه الوثائق المسربة

كيف ردت فيسبوك؟

بالنسبة للمحتوى العربي، قالت "فيسبوك" إنه لا يزال أمامها المزيد من العمل للقيام به، وإنها تقوم بأبحاث لفهم المشكلة بشكل أفضل وتحديد كيفية تجنبها لتحسين المحتوى. ورغم أنّ هذه المشكلة تظهر أيضًا في الهند وميانمار، إلا أنها تشكل تحديات خاصة في اللغة العربية، سواء للأنظمة الآلية أو البشر. فمثلاً، تضم اللغة العربية العامية المغربية كلمات فرنسية وأمازيغية. أما العربية المصرية فتضم كلمات من أصول تركية، فيما لهجات أخرى في العالم العربي أقرب إلى لغة القرآن. وفي كثير من الحالات لا تفهم هذه اللهجات خارج موطنها.

ردّت "فيسبوك" في تدوينة، أكدت فيها أنها تستثمر المزيد في هذه الدول، وتحديداً في ميانمار وإثيوبيا. وأشارت إلى أنها وظفت 40 ألف شخص يعملون في مجال السلامة والأمن، بما في ذلك فرق عالمية تقوم بمراجعة المحتوى بأكثر من 70 لغة.