لماذا فيسبوك يسرع بحجب صور التعري من حجب مقاطع الإرهاب؟

تعرض فيسبوك لانتقادات واسعة على خلفية نشره فيديو في بث مباشر لمجزرة إرهابي كرايست تشيرتش في نيوزيلندا، دون إيقاف البث أو حجب الفيديو بسرعة كافية.

وفي تقرير نشرته صحيفة لوموند الفرنسية، قال الكاتب مارتان أنترسينجر إنه “من الغريب أن يسارع فيسبوك إلى حجب صورة لأردافي ويتأخر في حجب فيديو لعملية إرهابية يُبث على المباشر”. وقد نشر أنترسينجر هذا التعليق على الصفحة الرسمية لقناة “تيليه مونتي كارلو” الفرنسية على فيسبوك.

وأضاف أن منفذ عملية كرايست تشيرتش الإرهابية نشر فيديو يوثق الهجوم المسلح الذي نفذه في مسجدين وأسفر عن مقتل 50 شخصا، على حسابه على فيسبوك، الأمر الذي جعل هذا الموقع عرضة للاتهامات في وقت يلقى فيه خطاب الكراهية الذي ينادي به اليمين المتطرف صدى على شبكات التواصل الاجتماعي.

ولكن لسائل أن يسأل: لماذا تعذر على فيسبوك اكتشاف الفيديو الذي بثه هذا الإرهابي في الوقت المحدد؟ ولماذا لم يحذفه مباشرة مع العلم أنه يلغي يوميا صورا لصدور نساء عاريات؟

أكد الكاتب أن موقع فيسبوك يتمتع بأفضل المواهب في مجال الذكاء الاصطناعي في العالم، مما يخوّله تقريبا حذف جل المحتويات التي كان ينشرها تنظيم الدولة حتى قبل أن تنشر. وللإجابة عن هذه الأسئلة، يجب أن نعود إلى حدود الذكاء الاصطناعي والطريقة التي يدير بها فيسبوك المحتوى الإرهابي.

صور متداولة أو غير منشورة؟
يواجه فيسبوك في الواقع نوعين من المحتوى الإرهابي، المحتوى الذي يطلع عليه فيسبوك مسبقا على غرار الفيديو الخاص بمجزرة كرايست تشيرتش بعد تنفيذ الهجوم، ومقاطع الفيديو الدعائية التي ينشرها تنظيم الدولة.

ويتشارك فيسبوك مع بعض شبكات التواصل الاجتماعي الأخرى، على غرار تويتر، قاعدة بيانات لمقاطع الفيديو من هذا النوع. وهو ما يعني أنه مع نشر الفيديو من قبل المستخدم، يجري فيسبوك مباشرة عملية مقارنة بما يخزنه من فيديوهات إرهابية في قاعدة البيانات حيث يحلل كل “بكسل” على حدة.

وأوضح الكاتب أن فيسبوك لا يحدد ظاهرة الإرهاب كما يفعل البشر، وإنما يراقب فقط ما إذا كان بكسل فيديو جديد يتماشى مع بكسل فيديو سبق للموقع أن اطلع عليه. وتخول له هذه العملية منع نشر الفيديو إذا كان يحتوي على نسخ من محتوى الفيديوهات الإرهابية المسجلة لديه في قاعدة البيانات. كما يستخدم فيسبوك هذه الطريقة مع الفيديوهات التي تدعو إلى التطرف والفيديوهات التي تعرض محتويات متعلقة بالتحرش الجنسي بالأطفال.

مع ذلك، اعترف فيسبوك بأن قرابة 300 ألف نسخة من الفيديوهات المباشرة ذات المحتوى الإرهابي يمكن نشرها على شبكته.

ولكن لماذا لم تُستخدم هذه الطريقة مع الفيديو الذي نشره إرهابي كرايست تشيرتش خلال الساعات والأيام التي تلت العملية؟ خصوصا وأن هذه الحادثة أثارت كثيرا من الأسئلة التي يجب على فيسبوك أن يجيب عنها.

يعترض أحيانا فيسبوك مقاطع فيديو ذات محتوى إرهابي لم يسبق له أن اطلع عليها، وتظهر على صفحاته لأول مرة، على غرار الصور الحية لعملية كرايست تشيرتش الإرهابية التي بثت على المباشر. وذلك يعني أن الآلية المذكورة آنفا لا تتماشى مع محتوى فيديو إرهابي كرايست تشيرتش، لأن الفيديو تضمن محتوى جديدا. علاوة على ذلك، يعتمد فيسبوك كثيرا على شكاوى مستخدميه. فوفقا لموقع فيسبوك، لم يبلّغ أي من المستخدمين الذين شاهدوا الفيديو عن محتواه الإرهابي أثناء بثه على المباشر.

حدود الاعتدال التلقائي
لمواجهة هذا النوع من الفيديوهات، هل يمكن لفيسبوك أن يدرب خوارزميات الذكاء الاصطناعي على عدم نشر فيديو إرهابي على المباشر تماما كما يتعامل مع النساء اللواتي ينشرن مقاطع مباشرة وهن بصدور عارية؟ في الحقيقة، يستطيع فيسبوك منع نشر هذا النوع من الفيديوهات التي تُبث على المباشر، ولكن في بعض الأحيان لا يمكنه ذلك إذا كان محتوى الفيديو ذا طابع فني أو يهدف إلى التوعية ببعض الأمراض.

ويبدو أن المشكل أساسا يتمحور حول الذكاء الاصطناعي في حد ذاته الذي ما زال ينقصه الذكاء، خصوصا وأن خوارزميات كشف المحتوى تعمل بشكل أفضل خلال تعاملها مع الصدور العارية مقارنة بالمحتوى الإرهابي. ويعود سبب ذلك أساسا إلى أنه في حياتنا اليومية، يستطيع المولود الجديد التعرف على الثدي، ولكنه لا يعي شيئا من خطاب أبو بكر البغدادي.

وأكد الكاتب أنه من الممكن تقنيا اكتشاف صور الثدي عبر استخدام الآلية التي تحدثنا عنها مسبقا، تحديدا عبر وحدات البكسل ولونها. ولكن كيف يمكن سن آلية للتعرف على الإرهاب بما أن هذه الظاهرة تقبع في عقل ناشر أو مؤلف الفيديو، علاوة عن السياق الذي ينشر فيه مقطعه؟

خلافا للمحتوى الإرهابي، يمكن آليا التعرف على فيديو يسجل جريمة قتل عبر محتوى الفيديو في حد ذاته، على غرار الأسلحة والطلقات النارية، ولكن هذه العلامات لا تكفي لوحدها من أجل اعتبار أن الفيديو يروج لمحتوى إرهابي.

وأفاد الكاتب بأن برمجيات الاعتدال التلقائي لا تستطيع بعد تحديد تطلعات ناشر الفيديو ولا منع بث الصور بشكل استباقي باستثناء حظر جميع أنواع الصور أو المحتويات التي تتماشى مع التطلعات الإرهابية أو الرامية لشن عمل إرهابي، ولكن بصفة عشوائية.