Scott Allendevaux

لا شيء أكثر إهانة من أن يتم تفتيشك في متجر استنادًا إلى الشك في السرقة. للأسف، تكشف هذا السيناريو المهين في السنوات الأخيرة في متاجر Rite Aid على مستوى البلاد. نظام التعرف على الوجه، الذي يشتغل بواسطة خوارزمية الذكاء الاصطناعي التي تظهر تحيزًا جوهريًا ضد الأقليات، دفع بموظفي التجزئة إلى مواجهة الأشخاص الذين تم تمييزهم كمشتبه بهم في السرقة. استمرت هذه الممارسة لما يقارب ثماني سنوات فيما وصفته Rite Aid بأنه برنامج تجريبي تم نشره في “عدد محدود من المتاجر”. على الرغم من ذلك، كانت تأثيرات هذه الممارسة واسعة النطاق، حيث تعرض عدد لا يحصى من المتسوقين الأبرياء للإحراج، غالبًا أمام الأصدقاء والأقارب. وكان الكثير منهم مضطرين للدفاع عن أنفسهم ضد اتهامات لا أساس لها.

قال Samuel Levine، مدير مكتب حماية المستهلك في اللجنة الفيدرالية للتجارة، عند إعلان شكوى مكونة من 54 صفحة ضد سلسلة الصيدليات: “استخدام Rite Aid المتهور لأنظمة المراقبة بالتعرف على الوجه ترك زبائنها يواجهون الإهانة وأضرارًا أخرى”. تعتبر Rite Aid مثالًا بارزًا يوضح تداعيات نشر خوارزميات الذكاء الاصطناعي دون اختبار دقيق وفحص لمنع العواقب غير المقصودة. سوف تواجه العديد من المؤسسات الأخرى مشاكل مماثلة إذا اعتمدت الذكاء الاصطناعي دون مراجعات دقيقة. قد يشتت جاذبية التكنولوجيا انتباههم عن إدراك العثرات المحتملة. ولكن يجب أن يكون من البديهيات: لا تسمح لمنظمتك أن تقع في نفس الفخ.

خبرتي في الصناعة تعطيني شعورًا بالقلق بشأن قدرتها على الرقابة الذاتية. الحالات الفاشلة، كما يتضح من قضية Rite Aid، ستصبح أكثر شيوعًا وستدفع السلطات التنظيمية إلى اتخاذ تدابير صارمة في الأمد القريب مع استمرار تقنية الذكاء الاصطناعي في انتهاك الحقوق الأساسية للخصوصية. مع نمو جمع البيانات بشكل متسارع من خلال وسائل مختلفة، بما في ذلك إنترنت الأشياء، تصبح التهديدات أكبر وأكثر وضوحًا. لقد قطعنا شوطًا طويلًا على الأقل من سيناريو الغرب الأميركي القديم الذي ساد منذ أكثر من خمس سنوات، عندما كانت الخروقات البيانات الواسعة النطاق ونقص المسؤولية ينتشران بشكل رئيسي. كانت خصوصية وأمان الفرد مجرد فكرة لاحقة، بينما كانت التكنولوجيات الناشئة تُعانق وتُقدم إلى العامة دون الكثير من الاعتبار للحمايات الأساسية. يكفي الإشارة إلى الخرق المقلق لشركة Equifax الذي كشف عن تقييمات الائتمان لما كان يُقدر بحذر بـ150 مليون شخص.

مع وجود تلك الحوادث، بدأت حركة نحو تنفيذ تدابير حماية الخصوصية الصارمة بالفعل. اللجنة الفيدرالية للتجارة، التي اتخذت سابقًا إجراءات ضد Rite Aid، تباشر الآن بتطبيق تدابير لتعزيز حماية الخصوصية للأطفال. وتشير التقارير إلى أن هذه الجهود تشمل قيودًا على التتبع من قبل العديد من الخدمات، بما في ذلك تطبيقات وسائل التواصل الاجتماعي، ومنصات ألعاب الفيديو،و تجار الألعاب، وشبكات الإعلان الرقمي. وهذا يمثل بداية هذه المبادرات فقط. الآن، مع تمسك الذكاء الاصطناعي وتنبئه بتغيير عميق في الطريقة التي تُجرى بها حتى أكثر العمليات التجارية رتابة، حان الوقت لمضاعفة جهود حماية البيانات. يجب أن يكون هناك شعور بالإلحاح بشأن مبادرة وطنية لخصوصية البيانات.

نرى بعض الخطوات الأولى. بعد عام من إطلاق ChatGPT، أصدر الرئيس Biden أمرًا تنفيذيًا يهدف إلى ضمان أن يكون تقديم الذكاء الاصطناعي على نطاق واسع “آمنًا وموثوقًا به”. صُمم الأمر لتعزيز الإشراف الحكومي على التكنولوجيا لمنع الآثار الضارة، بما في ذلك التقارير حول اختبارات “الفريق الأحمر” التي تكشف عن العيوب الخفية في التكنولوجيا. مع تسارع نشر التكنولوجيا، أصبحت المخاوف المتزايدة بشأن الخصوصية واضحة. والإجراءات الأخيرة التي اتخذها الاتحاد الأوروبي – بما في ذلك قيود مجلس حماية البيانات الأوروبي على معالجة Meta للبيانات الشخصية من أجل الإعلان السلوكي – جنبًا إلى جنب مع جهود الهيئات التشريعية الحكومية لحماية الخصوصية الشخصية، تؤكد القلق المتزايد المحيط بالتقدم السريع للذكاء الاصطناعي.

الكثير من هذا القلق ينبع من عدم الشفافية من قبل اللاعبين الرئيسيين في مجال الذكاء الاصطناعي حول البيانات التدريبية المستخدمة لإعلام نماذجهم المختلفة. لقد اكتشف الباحثون في جامعة إنديانا عيوبًا في الأنظمة الحالية، وطرقًا بديلة تتجاوز ما يقول المطورون إنها تدابير وقائية تمنع الوصول إلى المعلومات الخاصة. إن الكشف الذي قام به الباحثون يجب أن يرسل إنذارات مدوية بأن المعلومات الشخصية في خطر كبير، وإذا تُركت دون رقابة، فقد تكون أكبر تهديد للخصوصية الشخصية شوهد على الإطلاق. الامتثال لحماية البيانات هو متطلب قانوني. لكن الأهم، أنه واجب أخلاقي. هناك طريقة مؤكدة للقضاء على سمعة شركتك، وهي التعامل مع البيانات الشخصية بشكل متسرع وغير منضبط. كما ينص الدستور الأميركي على بعض الحقوق والحريات المدنية الأساسية، يجب أيضًا أن يتم تقنين ميثاق حقوق رقمي جديد لحماية الأنشطة على الإنترنت والبيانات الشخصية.

لائحة الاتحاد الأوروبي العامة لحماية البيانات وقانون خصوصية المستهلك في كاليفورنيا كلاهما بداية جيدة. بدلًا من إنشاء 50 مجموعة من اللوائح الخاصة بحقوق خصوصية الولاية، تحتاج الولايات المتحدة إلى معيار وطني. ضمان خصوصية البيانات يجب ألا يكون لعبة القط والفأر حيث يحاول المطورون البقاء خطوة واحدة أمام الجهات التنظيمية. في جوهر الأمر، للأشخاص الحق في معرفة أي بيانات يتم جمعها، وأين يتم تخزينها ومن له حق الوصول إليها. وينبغي ألا يكون ذلك في وثيقة متعددة الصفحات مصوغة بلغة قانونية معقدة، ولكن بشكل يسهل فهمه، بنفس الطريقة والأسلوب الذي يمكن للمستهلكين من خلاله طلب تقارير الائتمان الخاصة بهم حاليًا. قد تؤدي قواعد حماية البيانات الأكثر صرامة إلى تعطيل تدفقات الإيرادات لبعض شركات وسائل التواصل الاجتماعي التي تعتمد في نماذج أعمالها على بيع المعلومات الشخصية. قد تضطر بعض الخدمات التي تُقدم مجانًا الآن إلى فرض رسوم معتدلة باسم حماية البيانات. وقد يتعين أن يكون هذا هو التنازل النهائي للجمهور.

كما يجب أن يكون لدى المطورين وعي بخصوصية البيانات، ويجب أيضًا أن يكون لدى المستخدمين ذلك. تقع درجة من المسؤولية على الجمهور لمراقبة البيانات التي يشاركونها. وهذا يعني استخدام شبكات خاصة افتراضية (VPNs)، وتطبيقات المراسلة المشفرة، والمطالبة بمستوى من الشفافية من أولئك الذين يجمعون البيانات. في نهاية المطاف، الطريقة لحماية البيانات الشخصية هي من خلال شراكة قائمة على الثقة بين المطور والمستخدم، مع السلطات التنظيمية التي تعمل خلف الكواليس لوضع المعايير.

إعداد: وحدة الترجمات بمركز سمت للدراسات

المصدر: The Hill