Julie Grant, David Sullivan, Cathy Li, Agustina Callegari

أصبحت مبادئ “السلامة بالتصميم” جزءًا أساسيًا مقبولًا من السلامة الرقمية. لم يعد هذا مجرد مسألة ممارسات جيدة؛ بل ينعكس بشكل متزايد في كيفية تفكير المنظمين والمؤسسات حول السلامة عبر الإنترنت والذكاء الاصطناعي.

تتمحور السلامة بالتصميم حول وضع سلامة المستخدم وحقوقه في صميم تصميم وتطوير المنتجات والخدمات عبر الإنترنت، مع التركيز على توقع الأضرار بدلاً من إضافة الضمانات لاحقًا.

التزمت العديد من الشركات، بما في ذلك OpenAI، وAmazon، وAnthropic، وGoogle، وMeta، وMistral AI وغيرها، علنًا بمبادئ السلامة بالتصميم للذكاء الاصطناعي التوليدي كجزء من الجهود المبذولة لمنع الأضرار الجنسية ضد الأطفال.

مع تزايد التركيز العالمي على السلامة الرقمية، خاصة في حماية الأطفال، يجب أن تعرف الشركات كيف يمكن استخدام أنظمتها الحالية وإصدارات منتجاتها الجديدة، وحيث قد تجعل خيارات تصميمها الأضرار أسهل أو أسرع أو أصعب في الكشف.

ومع ذلك، فإن أحد الجوانب الرئيسية للسلامة بالتصميم هو التوقع. التوقع لا يتعلق فقط بكيفية تسبب إصدارات المنتجات والميزات الجديدة في الضرر، بل يتعدى ذلك إلى استشراف الأفق لما هو قادم. كما يتعلق بفهم كيفية تغير البيئة المحيطة من خلال التكنولوجيا، والتنظيم، والسلوك، والتكيف العدائي، وكيف يمكن لتلك التغييرات أن تخلق مسارات ضرر جديدة حول المنتجات، والخدمات، والأنظمة.

المشهد الرقمي المتطور

تتسارع التغيرات في المشهد الرقمي، خاصة بسبب الذكاء الاصطناعي. فالذكاء الاصطناعي التوليدي يجعل بعض أنواع الضرر أسهل في التوسع، والتخصيص، والإخفاء. وفي قمة الاحتيال العالمية لعام 2026، تم التحذير من أن مقاطع الفيديو المزيفة العميقة “deepfake”، والصوت الاصطناعي، وروبوتات الدردشة، والأدوات ذات الصلة تجعل من السهل على المجرمين انتحال شخصية أشخاص موثوق بهم والاحتيال على الضحايا.

يُلاحظ هذا أيضًا مع النماذج نفسها، فكلما أصبحت أكثر قدرة، يعتمد الأمان بشكل متزايد على الضمانات الواقعية. ويهدف برنامج مكافآت الأخطاء الأمنية “Safety Bug Bounty” من OpenAI، الذي أُطلق في مارس 2026، إلى تحديد مخاطر الإساءة والسلامة عبر منتجاتها من خلال قبول تقارير المشكلات الهامة من الباحثين، والمخترقين الأخلاقيين، ومجتمع السلامة والأمن الأوسع.

هذا مثال على كيفية قيام المنظمات باختبار الأنظمة بنشاط بحثًا عن نقاط الضعف وسوء الاستخدام الناشئة، ولكنه يوضح أيضًا أنه لا يمكن التعامل مع السلامة الرقمية كعملية تتم لمرة واحدة لأن المخاطر نفسها تستمر في التطور.

بمعنى آخر، السلامة الرقمية ليست قائمة تحقق ثابتة بل هدف متحرك. فالميزة المصممة لتحسين الراحة أو أتمتة القرارات قد تحسن السلامة من جانب بينما تخلق نقاط عمياء جديدة من جانب آخر. والضمان الذي يعمل اليوم قد يتم تجاوزه غدًا. فالعناصر الفاعلة السيئة لا تتوقف، وكذلك الأنظمة والحوافز والبيئات التي يحدث فيها الضرر.

لهذا السبب تكتسب الاستبصار أهمية. فالاستبصار يدور حول أن نكون أكثر استعدادًا وتوقعًا للتغيرات، وبالتالي فهو امتداد طبيعي لمبدأ “السلامة بالتصميم”.

ركائز استشراف السلامة الرقمية

يتطلب الاستشراف طرح أسئلة، مثل: ما هي الإشارات الناشئة؟ ما هي التحولات في التكنولوجيا، أو السياسة، أو الأسواق، أو سلوك المستخدم التي يمكن أن تعيد تشكيل المخاطر؟ ماذا يحدث عندما تتحد الأضرار المعروفة مع القدرات الجديدة؟

هذا هو الإطار الذي ينبغي أن يُقرأ فيه تقرير المنتدى الاقتصادي العالمي الجديد، “الاستعداد للمستقبل.. ركائز استشراف السلامة الرقمية”. فهو يساعد المنظمات على التفكير بشكل أكثر استباقية ويربط الاستشراف بالعمل.

يقدم التقرير ست ركائز لاستشراف السلامة الرقمية:

التأطير والحوكمة: يحدد السؤال، والحدود، وحقوق اتخاذ القرار بحيث يترجم التحليل اللاحق إلى عمل.
الاستشعار: يمسح على نطاق واسع للكشف عن الظروف الناشئة، والقدرات الجديدة، والحوافز المتغيرة.
النمذجة: يحول إشارات التغيير إلى تفسيرات لكيفية ظهور الأضرار، وتوسعها، وتكيفها.
الاستعداد: يختبر ما إذا كانت المنظمة تستطيع بشكل موثوق منع الأضرار المتعلقة بالسلامة الرقمية، واكتشافها، والاستجابة لها، والتعلم منها.
الإنذار المبكر: يترجم النمذجة إلى وعي مستمر وجهود دعم لضمان الاستعداد.
التوليف: يدمج المخرجات من الركائز الأخرى في رؤية واحدة جاهزة لاتخاذ القرار.

من الاستشراف إلى العمل عبر أربعة مسارات

لا يهم الاستشراف إلا إذا غيّر ما تفعله المنظمات. يجب أن تعتمد الاستجابة على شيئين.. مدى فهم الضرر، ومدى استعداد المنظمة لمعالجته.

يحدد التقرير أربعة مسارات للاستجابة توضح كيف يمكن للمنظمات تحويل الاستشراف إلى عمل:

المسار الأول: معروف ومغطى “التطبيق والتشديد”
المسار الثاني: تغطية جديدة/غير مؤكدة “التحقق والإعداد”
المسار الثالث: غير مغطى “تعزيز مستهدف”
المسار الرابع: غير متوقع/غير معروف “محفزات الإنذار والأجهزة الرقابية”

للتوضيح، عندما يكون الخطر معروفًا جيدًا بالفعل وتبدو الضمانات الحالية قوية، فإن الأولوية ليست البدء من جديد، بل الحفاظ على فعالية تلك الحماية مع تطور التقنيات والسلوكيات وأنماط التهديد “المسار الأول”.

في حالات أخرى، قد يكون الضرر ناشئًا والأدلة غير مكتملة. عندها يجب أن يركز الاهتمام على اختبار الافتراضات، وتحسين الرؤية لما يحدث، وتجهيز التخفيفات المحتملة للنشر “المسار الثاني”.

عندما يكون الضرر مفهومًا، ولكن الحماية الحالية ضعيفة جدًا أو ضيقة جدًا. في تلك الحالات، تحتاج المنظمات إلى تعزيز ضمانات محددة ومعالجة نقاط الفشل المعروفة “المسار الثالث”.

حيث لا يزال التهديد غير مفهوم بشكل جيد، فإن الخطوة الأولى ليست حلاً دقيقًا ولكنها استعداد أقوى من خلال إنشاء مؤشرات بديلة قابلة للملاحظة، وتحديد محفزات إنذار وسلطات تصعيد متفق عليها مسبقًا، وتحديد مسارات الانتصاف “المسار الرابع”.

بهذه الطريقة، تعد مسارات الاستجابة وسيلة لمطابقة الإجراء مع مستوى عدم اليقين والاستعداد.

تظل السلامة بالتصميم ضرورية لأنها تؤكد على الإجراءات الوقائية والاستباقية بدلاً من رد الفعل بعد وقوع الضرر. ولكن يجب أن تقترن بالاستشراف للاستعداد لعالم رقمي متغير حيث تتطور الأضرار، وتتغير القواعد، وتتقارب التقنيات، ويتكيف الفاعلون السيئون.

المنظمات التي تتصدر في مجال السلامة الرقمية لن تسأل فقط عن كيفية بناء أنظمة أكثر أمانًا؛ بل ستسأل عن المستقبل الذي يجب أن تكون هذه الأنظمة مستعدة له.

إعداد: وحدة الترجمات بمركز سمت للدراسات
المصدر: World Economic Forum