Toby Murray

في يوليو من العام الماضي، وجهت مفوضة السلامة الإلكترونية، جولي إنمان جرانت، شركات التكنولوجيا لوضع مدونات ممارسات لحماية الأطفال من المحتوى الضار عبر الإنترنت. الآن، وبعد سبعة أشهر، قدمت الصناعة مسودات المدونات إلى eSafety للموافقة عليها.

بافتراض موافقة جرانت على المدونات الجديدة، كيف يمكننا أن نتوقع أن يكون المستقبل للأطفال والمراهقين عبر الإنترنت، ومدى فعالية المدونات المقترحة في حماية الأطفال؟

نهج منسق

تم تطوير المدونات المقدمة للموافقة من قبل مجموعة من جمعيات الصناعة.

وهي تغطي منصات التواصل الاجتماعي مثل Facebok وSnapchat. لكنها تغطي أيضًا مزودي خدمات الإنترنت، ومحركات البحث مثل Google، وخدمات المراسلة عبر الإنترنت مثل Whatsapp، ومنصات الألعاب عبر الإنترنت، بالإضافة إلى الشركات المصنعة لأجهزة الكمبيوتر والهواتف المحمولة والبرامج التي نستخدمها للوصول إلى الخدمات عبر الإنترنت.

ستغطي المدونات أيضًا متاجر التطبيقات عبر الإنترنت مثل تلك التي تديرها Apple وGoogle. ومع ذلك، لا يُتوقع إصدار مدونات متاجر التطبيقات حتى أواخر مارس.

بالإضافة إلى تغطية مجموعة من الشركات، تغطي المدونات أيضًا مجموعة من الأضرار. فهي تهدف إلى حماية الأطفال ليس فقط من المحتوى الضار عبر الإنترنت، ولكن أيضًا من المحتوى الذي يشجع على إيذاء النفس واضطرابات الأكل والعنف.

نظرًا لصعوبة حماية الأطفال من هذا النوع من المحتوى، فإن هذا النهج المنسق ضروري جدًا.

إذا تمت الموافقة على مسودات المدونات، فسيكون أمام الشركات ستة أشهر لتنفيذ تدابير السلامة المقترحة. وستواجه غرامات تصل إلى 50 مليون دولار أسترالي في حالة عدم الامتثال.

ما هو المتوقع؟

تنقسم مسودات المدونات عبر أجزاء مختلفة من النظام البيئي التقني. وتعتمد المتطلبات التي تضعها على منصات التكنولوجيا الفردية على مدى خطورة المحتوى الضار على كل منصة على الأطفال.

من المرجح أن يتم تصنيف منصات التواصل الاجتماعي الكبيرة مثل Facebook وInstagram وX من بين أخطر المنصات. ذلك لأنه من الممكن للمستخدمين الوصول إلى محتوى ضار للغاية مثل الاعتداء على الأطفال أو المواد الإرهابية على هذه المنصات. بالإضافة إلى ذلك، تخدم هذه المنصات ملايين الأشخاص، وتسمح أيضًا للمستخدمين بإنشاء ملفات تعريف عامة، والاحتفاظ بقوائم “الأصدقاء”، ومشاركة المحتوى على نطاق واسع.

وفقًا لمسودات المدونات، ستحتاج هذه المنصات إلى تنفيذ أكثر تدابير السلامة صرامة. وتشمل هذه استخدام تدابير ضمان العمر لمنع الأطفال الذين تقل أعمارهم عن الحد الأدنى المسموح به للوصول إلى الخدمة من القيام بذلك، ووجود فريق ثقة وسلامة ذي موارد مناسبة، واستخدام أنظمة آلية للكشف عن مواد الاعتداء على الأطفال والمواد المؤيدة للإرهاب وإزالتها.

من ناحية أخرى، لن تخضع المنصات الأقل خطورة لأي متطلبات بموجب مسودات المدونات. وتشمل هذه المنصات عبر الإنترنت التي تسمح فقط باتصالات محدودة داخل مجموعة معينة من الأشخاص وبدون ميزات وسائل التواصل الاجتماعي مثل قوائم الأصدقاء وملفات التعريف العامة. وستكون منصات الاتصال داخل المدرسة الابتدائية مثل Compass من بين الأقل خطورة.

ستكون محركات البحث عبر الإنترنت مثل Google وBing، التي توفر الوصول إلى محتوى البالغين ومحتوى إيذاء النفس، ولكن يستخدمها الأطفال بشكل مشروع، ملزمة بتنفيذ التدابير المناسبة لمنع الأطفال من الوصول إلى هذا المحتوى.

قد يشمل ذلك تمكين ميزات البحث الآمن وإنشاء حسابات مستخدمين للأطفال. وستتضمن هذه الحسابات ميزات تحجب تلقائيًا المحتوى الضار، وتقوم بتصفية هذا المحتوى من نتائج البحث وخوارزميات التوصية.

تغطي المدونات أيضًا التكنولوجيا الضارة الناشئة، مثل تطبيقات المواد الإباحية المزيفة التي تعمل بالذكاء الاصطناعي التوليدي. مثل مواقع المواد الإباحية التقليدية، سيُطلب من هذه المواقع تنفيذ تقنية ضمان العمر لمنع الأطفال من استخدام هذه الخدمات.

ماذا عن ضمان العمر؟

تحدد المدونات على وجه التحديد ما هي تدابير ضمان العمر التي تعدُّ “مناسبة”.

أهم من ذلك، أن مجرد إمكانية تجاوز نظام التحقق من العمر لا يعني عدم أهليته. بل يجب أن تتضمن إجراءات ضمان العمر “خطوات معقولة” لضمان بلوغ الشخص السن القانونية، مع مراعاة اعتبارات الخصوصية .

إن مطالبة المستخدمين بالإعلان عن أعمارهم بأنفسهم ليس مناسبًا. لذا توقع أن ترى مواقع المواد الإباحية تتخلص من مربعات الحوار بالنقر التي تطلب من الزوار الإعلان عن أنهم بالغون بالفعل.

بدلاً من ذلك، سيكون لدى المواقع مجموعة من الخيارات لضمان أعمار مستخدميها، بما في ذلك بطاقة الهوية بالصورة، وتقدير العمر بناءً على صور الوجه أو الفيديو، وقيام أحد الوالدين بالتصديق على عمر الطفل، والاستفادة من عمليات التحقق من بطاقات الائتمان، أو الطرق القائمة على الذكاء الاصطناعي لاستنتاج العمر.

من المرجح أن تستخدم شركات وأنظمة مختلفة تدابير مختلفة.

على سبيل المثال، أعلنت شركة آبل بالفعل عن مجموعة من تدابير سلامة الأطفال الجديدة التي يبدو أنها تتماشى مع العديد من أجزاء مسودات المدونات. وتشمل هذه التدابير تسهيل قيام الآباء بإعداد ميزات سلامة الأطفال على أجهزة iPad وiPhone الخاصة بالأطفال، واستخدام معلومات دفع أحد الوالدين لضمان قدرتهم على التصديق على عمر طفلهم بأمان، بالإضافة إلى دمج ميزات سلامة الأطفال في متجر التطبيقات لتمكين مطوري التطبيقات من جعل تطبيقاتهم أكثر أمانًا للأطفال.

من ناحية أخرى، من المرجح أن تعتمد مواقع وتطبيقات البالغين آليات ضمان العمر التي يعدُّها المستخدمون أكثر خصوصية. بالنسبة للمشتركين الذين يدفعون، من المرجح أن يستفيدوا من معلومات الائتمان المخزنة بالفعل لضمان عمر المستخدمين.

قد يُطلب من غير المشتركين بدلاً من ذلك الخضوع لمسح ضوئي للوجه أو طرق أخرى تعتمد على الذكاء الاصطناعي لتقدير أعمارهم.

وتشير البيانات المتاحة للجمهور حول أحدث الأنظمة لتقدير العمر من صور الوجه إلى أن أفضل الأنظمة بها متوسط خطأ يبلغ 3.7 سنوات.

يبقى أن نرى ما إذا كانت eSafety ستوافق على أن هذه التكنولوجيا “مناسبة”. ومع ذلك، إذا تم اعتمادها، فهناك خطر حقيقي يتمثل في أن العديد من المراهقين سيظلون قادرين على الوصول إلى تطبيقات التزييف العميق الضارة على الرغم من هذه المدونات الجديدة.

إعداد: وحدة الترجمات بمركز سمت للدراسات
المصدر: THE CONVERSATION