مركز سمت للدراسات خوارزميات “فيسبوك” أكبر من أن يتم إصلاحها | مركز سمت للدراسات

خوارزميات “فيسبوك” أكبر من أن يتم إصلاحها

التاريخ والوقت : الخميس, 14 أكتوبر 2021

Cathy O’Neil

 

قدمت شهادة فرانسيس هوغن في الكونغرس هذا الأسبوع رسالة مهمة للوطن، وهي أن “فيسبوك” تضر بشكل مستمر بملايين وربما مليارات من المستخدمين في جميع أنحاء العالم، عبر استخدام مجموعة من الخوارزميات المصممة لرفع نسب المشاركة وعوائد الإعلانات.

هذا يطرح سؤالا مفاده: ما الذي يجب عمله؟ فحجم المهمة الكبير وتعقيدها يحولان دون الإجابة ببساطة عن هذا السؤال، لكن بصفتي متخصصة في صنع خوارزميات التدقيق المباشر، وأسعى للحد من الضرر الذي يمكن أن تحدثه تلك الخوارزميات، يمكنني طرح بعض الأفكار في هذا الصدد.

أصحاب المصلحة

عندما أقوم بمهمة عمل، أفكر أولاً في الفئات التي تؤثر عليها الخوارزمية. فعلى سبيل المثال، قد يشمل أصحاب المصلحة في خوارزمية لتصحيح الامتحانات، الطلاب والمعلمين والمدارس، بالإضافة إلى المجموعات الفرعية التي يتم تحديدها وفقاً للعرق والجنس والدخل.

وعادةً ما يكون هناك عدد من الفئات التي يمكن تتبعها، ويكون عددها حوالي 10 أو 12 فئة. ثم أقوم بتطوير اختبارات إحصائية لمعرفة ما إذا كانت الخوارزمية تعالج، أو من المحتمل أن تعالج، أي مجموعات بشكل غير عادل، وأطرح أسئلة مثل: هل هي متحيزة ضد الطلاب السود أو الفقراء، أو ضد المدارس في أحياء معينة؟. وفي نهاية المطاف، أقترح طرقاً للتخفيف من هذه الأضرار أو استبعادها تماماً.

للأسف، يصعب تطبيق هذا النهج على خوارزمية تحديث الأخبار على “فيسبوك”، أو في هذا السياق، على الخوارزميات الأساسية في أي شبكة اجتماعية كبيرة أو محرك بحث مثل “غوغل”. لأنها كبيرة جداً. وقائمة أصحاب المصلحة المحتملين لا حصر لها. بالتالي، لن تكتمل عملية التدقيق أبداً، وستفتقد لا محالة شيئاً مهماً دائماً. فعلى سبيل المثال، لا أستطيع أن أتخيل أن المدقق كان ليتوقع بشكل منطقي في عام 2016 كيف سيصبح “فيسبوك” أداة للإبادة الجماعية في ميانمار، وأن يطور طريقة لمنع انتشار المعلومات المضللة حول الأقلية المسلمة في البلاد. وبسبب ذلك قُلت منذ فترة طويلة إن إصلاح خوارزمية “فيسبوك” هو عمل لن أقبل القيام به أبداً.

معالجة الأضرار

لكن رغم ذلك، فباستخدام النوع الصحيح من البيانات، يمكن للسلطات أن تسعى إلى معالجة أضرار معينة. فإذا افترضنا أن لجنة التجارة الفيدرالية جهزت قائمة بالنتائج التي تريد منعها. فقد يشمل ذلك إيذاء النفس بين الفتيات المراهقات، أو أشكال التطرف التي تسببت في أعمال الشغب في “الكابيتول هيل”، وتقويض الثقة في العمليات الانتخابية.

يمكن للجنة التجارة بعد ذلك أن تأمر “فيسبوك” بتوفير البيانات اللازمة لاختبار ما إذا كانت خوارزميات الموقع تساهم في هذه النتائج. وذلك من خلال البحث عن روابط سببية بين أنواع محددة من المنشورات والمخاوف التي أبلغ عنها المستخدمون الإناث بشأن صور الجسد. ولتوفير صورة قوية، يجب أن تكون هناك مقاييس متعددة لكل ظاهرة، مع تحديثات تتم على أساس يومي أو أسبوعي.

في ظل نظام مماثل كهذا، سيكون “فيسبوك” حراً في ممارسة أعماله على النحو الذي يراه مناسباً. ولن تكون هناك حاجة لتعديل القسم 230 من قانون أخلاقيات الاتصالات لجعل الشركة تعدل أو تفرض الرقابة على ما يتم نشره على شبكتها.

لكن لدى لجنة التجارة الفيدرالية الدليل الذي تحتاجه لتحميل الشركة المسؤولية عن آثار خوارزمياتها، وعن عواقب جهودها لإبقاء الناس متفاعلين ومستهلكين. وهذا بدوره يمكن أن يساعد في إجبار “فيسبوك” نفسها على التصرف بمسؤولية أكبر.

حصل “فيسبوك” على فرصة كبيرة لمعالجة مشكلاته داخلياً، لكن الشركة لن تفعل ذلك من تلقاء نفسها. والمراقبة المحدودة التي أقترحها بعيدة كل البعد عن الكمال، لكنها طريقة للحصول على موطئ قدم والبدء على الأقل في تحميل شركات التكنولوجيا الكبيرة مسئولية أعمالها.

 

المصدر: صحيفة الشرق “بلومبيرغ”

النشرة البريدية

سجل بريدك لتكن أول من يعلم عن تحديثاتنا!

تابعونا على

تابعوا أحدث أخبارنا وخدماتنا عبر حسابنا بتويتر