مركز سمت للدراسات تصنيف المحتوى الإرهابي عبر الإنترنت والإشراف عليه | مركز سمت للدراسات

تصنيف المحتوى الإرهابي عبر الإنترنت والإشراف عليه

التاريخ والوقت : الأربعاء, 31 أغسطس 2022

آن كرانين

 

في 14 مايو 2022، اقتحم مهاجم سوبر ماركت في بافالو، نيويورك، وقتل 10 أشخاص وأصاب ثلاثة آخرين. وبثَّ الجاني، وهو رجل أبيض يبلغ من العمر 18 عامًا، هجومه مباشرة على منصة البث “تويتش”، ونشر رابطًا لبيان يوضح بالتفصيل دوافعه للهجوم على تطبيق “مستندات جوجل” قبل إطلاق النار. بعد الهجوم، اكتشفت السلطات مذكرات الجاني عبر الإنترنت على منصة الألعاب “ديسكورد”.

في أعقاب ذلك مباشرة، حمّل مستخدمون المحتوى الذي أنتجه الجاني، وحفظوه ونشروه عبر الإنترنت عبر مجموعة من المنصات، بما في ذلك العديد من المنصات الأقل انتشارًا. من جانبها، تفاعلت معظم شركات التكنولوجيا، التي حمّل المستخدمون المواد عليها، مع الحادث بسرعة وأزالت المحتوى. علاوة على ذلك، فعّلت المبادرات التكنولوجية، مثل منتدى الإنترنت العالمي لمكافحة الإرهاب (GIFCT) بروتوكول حوادث المحتوى (CIP)، وهي آلية لتسهيل التعاون عبر مثل هذه المنصات، وإزالة المواد أثناء أوقات الكوارث.

في حين ينبغي لنا توخى الحذر في استخلاص استنتاجاتٍ تستند إلى بيان المهاجم وحده، يبدو جليًا من تلك الوثيقة، وغيرها من الحقائق عن حياة الجاني، أن دوافع الهجوم كانت عنصرية. وقد أعلنت السلطات الأمريكية أن الهجوم عمل إرهابي محلي، وهو المصطلح الذي يُستخدم غالبًا في الولايات المتحدة لوصف عملٍ يوصف في مكان آخر بأنه إرهاب اليمين المتطرف أو تفوق البيض.

وتعليقًا على الهجوم، قال الرئيس الأميركي جو بايدن إنه “يجب ألا يكون هناك ملاذ آمن. يجب أن نفعل كل ما في وسعنا لإنهاء الإرهاب المحلي الذي تغذِّيه الكراهية”. ومع ذلك، في هذه المقالة، سأجادل بأن الولايات المتحدة والدول الأخرى تُهمل أداة حاسمة من شأنها تسهيل العمل ضد استخدام الإرهابيين للإنترنت، بما في ذلك المتطرفين العنيفين ذوي الدوافع العنصرية والإثنية: التصنيف.

إزالة المحتوى الإرهابي عبر الإنترنت

بداية، الاستخدام الفعّال للإرهابيين للإنترنت وضع المعركة ضد المحتوى الإرهابي عبر الإنترنت في مقدمة أولويات العديدِ من مبادرات مكافحة الإرهاب العالمية والوطنية. وقد أضحتِ الغالبية الساحقة من شركات التكنولوجيا العالمية، سواء كانت كبيرة أو صغيرة، على استعدادٍ لمواجهة استخدام الإرهابيين لمنصاتها.

في هذا الصدد، تدعم مبادرةُ “التكنولوجيا ضد الإرهاب” (Tech Against Terrorism)، وهي مبادرة تدعمها الأمم المتحدة، شركاتِ التكنولوجيا هذه في مكافحة استخدام الإرهابيين لخدماتها مع احترام حقوق الإنسان.

من خلال تجربتنا، من المرجح أن تنجح منصات التكنولوجيا إلى حدٍّ كبير في إزالة المحتوى الإرهابي إذا كان منتجًا من قبل مجموعة إرهابية مصنّفة، لأن التصنيف يزيل أحد مستويات عدم اليقين في عملية صنع القرار في المنصات، ويوفِّر تفويضًا قانونيًا واضحًا لشركات التكنولوجيا لإزالة مثل هذه المواد.

على سبيل المثال، يبلغ معدل إزالة المحتوى الذي أبلغنا عنه شركات التكنولوجيا عبر منصة تحليلات المحتوى الإرهابي (TCAP)، التي تنبّه إلى المحتوى الذي تنتجه كيانات إرهابية مصنّفة، 94%. ولعل السبب في ذلك أننا نقدِّم علاقة واضحة بين التصنيف وقانونية المحتوى المنتج من قبل كياناتٍ مصنّفة عبر الإنترنت.

بالإضافة إلى كونها آلية لها تأثير إيجابي ملموس في مكافحة المحتوى الإرهابي على الإنترنت، فإن الأمر يتعلق أيضًا بالمبادئ. إذ من الضروري أن تستند تدابير مكافحة الإرهاب، سواء عبر الإنترنت أو خارجه، إلى سيادة القانون. وعلى هذا النحو، ينبغي أن تتولى الحكومات مسؤولية الفصل -مع وجود ضمانات كافية لحقوق الإنسان- في ماهية المحتوى الإرهابي غير القانوني.

في الوقت الحالي، تواجه الحكومات الديمقراطية صعوباتٍ في هذا، ما يعني ترك منصات التكنولوجيا لاتخاذ مثل هذه القرارات بمفردها. وفي حين أن منصات التكنولوجيا الأكبر قد تكون قادرة -بفضل قدرتها على الاستعانة بمصادر خارجية لفرق خبراء مكافحة الإرهاب- على اتخاذ مثل هذه القرارات، فإن المنصات الأصغر ستجد صعوبات جمّة في ذلك. ولذلك فإن “التصنيف” أداة حاسمة متوفرة لدى الحكومات، يمكنها تحسين إجراءات التصدي لاستخدام الإرهابيين للإنترنت بطريقةٍ تدعم سيادة القانون.

خلال العام الماضي، حلَّلت “مؤسسة التكنولوجيا ضد الإرهاب” 13 نظامًا عالميًا مختلفًا من أنظمة التصنيف، بغية التحقيق في عمليات التصنيف المستخدمة للمحتوى الإرهابي، وما الآثار المترتبة على تصنيف كيان إرهابي بالنسبة للمحتوى عبر الإنترنت، وما ضمانات حقوق الإنسان الموجودة، وكيف يمكن تحسين عمليات التصنيف العالمية لتقديم التوجيه بشأن الآثار المترتبة على المحتوى عبر الإنترنت، وبالتالي، تحسين جهود مكافحة الإرهاب عبر الإنترنت.

الافتقار إلى توافق في الآراء

أولًا، وجدنا أنه غالبًا ما يكون هناك توافق ضعيف أو معدوم في الآراء بشأن قوائم تصنيف الدول، الأمر الذي يتسبب في المزيد من الارتباك فيما يتعلق بعدم الشرعية عبر الولايات القضائية. التصنيف أو الحظر أو الحل أو الإدانة أو الحظر السياسي كلها مصطلحاتٌ تُستخدم للدلالة على الإدراج الحكومي للمنظمات الإرهابية.

وهذا يشكِّل تحديًا لشركات التكنولوجيا، لا سيّما الشركات الأصغر حجمًا التي قد لا تكون لديها الخبرة اللازمة لتفسير النظم القانونية لمختلف الولايات القضائية. لذا، نوصي بأن تكون هناك عملية إدراج منفصلة لتصنيف الجماعات الإرهابية، بحيث لا تخلط بين هذه القوائم والجماعات المناهضة للدستور أو السياسية أو أي وضعٍ آخر. وهذا من شأنه أن يضمن عدم استخدام تدابير مكافحة الإرهاب، سواء عبر الإنترنت أو خارجه، ضد الجماعات غير الإرهابية.

تسميات قانونية مختلفة

ثانيًا، وجدنا أن الدول تختلف حاليًا في حكمها على المحتوى عبر الإنترنت، الذي تنتجه جماعة إرهابية مصنّفة، أو يدعمها، بأنه غير قانوني. وفي النظام المؤقت في المملكة المتحدة، يشير التقرير إلى أن المحتوى الذي ينتجه كيان إرهابي مصنّف، ويؤدي إلى جريمةٍ إرهابية، يُعتبر غير قانوني.

ومع ذلك، فإن هذا الرأي حاليًا استشاري فقط. ومن ثم، فهناك فرصٌ ضائعة في استخدام التصنيف كأداة لمنع استخدام الإرهابيين للإنترنت، نظرًا للتأثير الإيجابي الواضح الذي يمكن أن يحدثه في توجيه جهود مكافحة الإرهاب عبر الإنترنت. وهذا يخلق أيضًا منطقة رمادية كبيرة، حيث يجب على شركات التكنولوجيا أن تقرِّر المحتوى الذي يجب تصنيفه على أنه إرهابي.

إضافة إلى ذلك، يؤدي هذا الوضع إلى خطرٍ كبير قد يعرّض الأفراد والجماعات لانتهاكٍ غير عادل لحريتهم في التعبير، في حين أن أولئك الذين يشاركون في الإرهاب قد يكونون قادرين على نشر رسائلهم عبر الإنترنت. لذلك، فإن إحدى استنتاجاتنا الرئيسة هي أنه بوسع الدول القومية الديمقراطية، والمؤسسات فوق الوطنية، أن تستفيد أيّما استفادة من خلال النصِّ بوضوحٍ على وجوب تصنيف المحتوى الرسمي -الذي ينتجه كيان إرهابي مصنّف (سواء كان مجموعة أو فردًا)، الذي يؤدي إلى جريمة إرهابية محلية (في الولايات القضائية للدول القومية)- على أنه غير قانوني.

من شأن هذا أن يرسِّخ الإشراف على المحتوى عبر الإنترنت، وفق سيادة القانون، ويوفِّر الوضوح لشركات التكنولوجيا حول ما يشكّل محتوى إرهابيًا من عدمه. علاوة على ذلك، فإنه سوف يسهّل على شركات التكنولوجيا الإشرافَ على مثل هذا المحتوى، وبالتالي يسهم بقوة في الحدِّ من استخدام الإرهابيين للإنترنت.

قوائم تصنيفات متحيّزة

ثالثًا، تميل معظم قوائم تصنيف الدول التي فحصناها بشدة نحو الجماعات الإرهابية الإسلاموية، مع عدم إدراج أيٍّ من تلك الدول أو عدد قليل فقط للجماعات الإرهابية اليمينية المتطرفة. وقد صنّفت كندا والمملكة المتحدة، حتى الآن، الجماعات الأكثر يمينية المتطرفة على أنها جماعات إرهابية، حيث جرى تصنيف 9 و5 جماعات (بالإضافة إلى 4 أسماء مستعارة) على التوالي.

الأمر المثير للقلق هو أن الولايات المتحدة لا تملك الآليات القانونية اللازمة لتصنيف الكيانات الإرهابية أو الجهات الفاعلة المنفردة، بموجب تعريف الدولة للإرهاب المحلي، حيث لا يوجد تشريع قائم لفعل ذلك. الطريقة الوحيدة لتصنيف إرهابي محلي، مثل مُنفذ هجوم بافالو، ستكون عن طريق الانتماء إلى منظمة إرهابية أجنبية على قائمة وزارة الخارجية الأمريكية للمنظمات الإرهابية.

ونظرًا لعدم تصنيف الجماعات الإرهابية اليمينية المتطرفة، فإن اليمين المتطرف العنيف قادر على العمل بحريةٍ أكبر من العديد من الجماعات الإسلاموية المصنّفة. لذلك فمن الضروري أن تصنّف الدول القومية المزيدَ من الجماعات الإرهابية اليمينية المتطرفة لتعكس بدقة التهديدَ المتأتي من الجماعات الإرهابية اليمينية المتطرفة الوطنية، والعابرة للحدود الوطنية، والتصدي له. عندها فقط، يمكن استخدام التصنيف لمجابهة المحتوى عبر الإنترنت الذي تنتجه الكيانات الإرهابية اليمينية المتطرفة.

قوائم عفا عليها الزمن

رابعًا، وجدنا أن هناك قوائم غير دقيقة حيث غالبًا ما تظلُّ المنظمات التي حُلَّت أو أعيد تسميتها مدرجة تحت مسميات سابقة. ويعود ذلك على الأرجح إلى عدم وجود عمليات مراجعة منتظمة، الأمر الذي يُعيق جهود مكافحة الإرهاب، سواء خارج الإنترنت أو عبر الإنترنت. لذا، نوصي الحكومات بإجراء عمليات مراجعةٍ منتظمة لضمان دقة القوائم في نطاقها وتحديثها. كما نوصي بإجراء هذه العمليات بمساهمةٍ من ممثلي المجتمع المدني والمتخصصين في مكافحة الإرهاب ومحامي حقوق الإنسان.

آليات استئناف غير شفافة

خامسًا، تمثل آليات الاستئناف غير الشفافة مخاطرَ كبيرة على حقوق الإنسان. ذلك أنه عندما لا يستطيع الأفراد الطعن في إدراجهم في قوائم التصنيف، فإنهم قد يخضعون لقيود صارمة على حقوقهم. وهناك حالات معروفة لأفراد أدرجوا خطأ في قوائم التصنيفات، وهذا بلا شك يمثل إشكالية كبيرة. وعليه، ينبغي للحكومات أن تستحدث آليات استئناف يسهل الوصول إليها بما يمكّن أعضاء الجماعات والأفراد من الطعن على قرارات إدراجهم وبالتالي تجنّب الإضافات الخاطئة إلى تلك القوائم.

الخلاصة

يجب التصدي للمحتوى عبر الإنترنت الذي تنتجه جهاتٌ فاعلة مثل مرتكب هجوم بافالو بطريقةٍ تحترم حقوق الإنسان. ومن شأن وجود سياسة تصنيف واضحة أن تحقق الهدف المنشود. ومع ذلك، يمكن القول إن أنظمة التصنيف، بصيغتها الحالية، قد عفا عليها الزمن، لأنها تفشل في توضيح العواقب التي تترتب على تصنيف كيانٍ ما على المحتوى عبر الإنترنت الذي ينتجه الكيان المذكور، ما يحدُّ بدوره من الأثر الإيجابي الذي يمكن أن يحدثه التصنيف في مواجهة المحتوى الإرهابي عبر الإنترنت.

لذلك، أوصي بأن يحدِّث صانعو السياسات أنظمة العدالة الجنائية القائمة، خاصة التصنيف، لتواكب في القرن الحادي والعشرين من أجل مكافحة استخدام الإرهابيين للإنترنت بطريقةٍ أكثر فعالية، تخضع للمساءلة وتتوافق مع حقوق الإنسان.

واستنادًا إلى كلمات الرئيس بايدن، ينبغي لنا أن نفعل كل ما في وسعنا للقضاء على الإرهاب المحلي الذي تغذِّيه الكراهية، أو أي شكل من أشكال الإرهاب، وأعتقد أن التصنيف يجب أن يكون أحد الأولويات لتحقيق ذلك.

المصدر: كيو بوست

النشرة البريدية

سجل بريدك لتكن أول من يعلم عن تحديثاتنا!

تابعونا على

تابعوا أحدث أخبارنا وخدماتنا عبر حسابنا بتويتر