Marcelo Gleiser

ناقشتُ مع 65 طالبًا من طلاب كلية دارتموث عملية صنع القنبلة الذرية. وكان الهدف من النقاش مقارنة التحدي العلمي الذي واجهه العلماء خلال مشروع مانهاتن بقرار اتخاذ إسقاط القنبلتين على اليابان. يكمن التوتر الأساسي في أن العلماء، رغم دورهم المحوري في تطوير هذه التقنية المدمرة، لم يكن لهم رأي يذكر في كيفية استخدامها أو حتى في قرار عدم استخدامها. ويوضح فيلم “أوبنهايمر” هذه المعضلة بوضوح.

أكملت مناقشة القنبلة الذرية بفيديو من Big Think يظهر الفائزة بجائزة نوبل جينيفر دودنا عن أداة الهندسة الوراثية المسماة CRISPR، التي تُمكّن العلماء من تعديل الشيفرة الجينية مباشرة. كما تقوم – في تشبيه مبسط إلى حد ما – بتحرير النص على معالج النصوص.

كما تقول دودنا في الفيديو، فإن النشوة الأولية لاختراع تقنية قادرة على شفاء العديد من الأمراض الجينية سرعان ما تغلبت عليها الرهبة من كيفية استخدام هذه التقنية بنوايا شريرة. يمكنك أن تتخيل عودة ظهور علم تحسين النسل، على سبيل المثال، أو اختيار سمات جسدية وفكرية محددة يمكن أن تغير الشيفرة الجينية البشرية إلى الأبد. نظرًا للتكاليف العالية للإجراء، يمكن أن يخلق هذا اختلالًا اجتماعيًا خطيرًا وانقسامًا جينيًا حرفيًا داخل نوعنا: البشر “العاديون” والبشر “المعدلون بواسطة CRISPR”.

مع تقنية CRISPR، لدينا القدرة على إعادة ابتكار الجنس البشري. أضف الذكاء الاصطناعي التوليدي إلى المزيج، ويصبح الصراع بين ما يمكن أن تفعله أو ينبغي أن تفعله التقنيات الرقمية والجينية الجديدة واضحًا.

التنقل في متاهة التكنولوجيا الحديثة الأخلاقية

طلبت من ChatGPT تعريف الذكاء الاصطناعي التوليدي. فجاءت عبارة مقلقة في نهاية الإجابة:

“أحد الجوانب الرئيسية للذكاء الاصطناعي التوليدي هو قدرته على إنشاء محتوى جديد لم يكن موجودًا بشكل صريح في بيانات التدريب، مما يمكن أن يؤدي إلى مخرجات مفاجئة وإبداعية. ومع ذلك، فإن ضمان أن يكون المحتوى المولد عالي الجودة ولا يظهر سلوكيات غير مرغوبة (مثل توليد محتوى متحيز أو غير لائق) هو تحدٍ مستمر في هذا المجال”.

بعبارة أخرى، يمكن للبرنامج إنشاء “مخرجات مفاجئة وإبداعية” دون ضمان “جودة عالية” أو محتوى غير متحيز. ستكون المعلومات التي تمتلك القدرة على التضليل والتحيز والاستقطاب متاحة للمستخدمين. الذكاء الاصطناعي اليوم هو عرّاف بلا أساس أخلاقي متين.

أعادت التهديدات النووية، التي تشمل ما يقدر بنحو 12.500 سلاح نووي جاهز في العالم، منها 9.600 في الخدمة العسكرية، إلى جانب الهندسة الحيوية، والتطورات الحالية والمستقبلية في الذكاء الاصطناعي، تعريف ساحة اللعب بين الابتكار العلمي والاستخدام الأخلاقي للتكنولوجيا. وأحد الفروق الأساسية بين التهديد النووي والآخرين هو فرق الحجم: التكنولوجيا النووية مكلفة وتحتاج إلى إنتاج على نطاق صناعي. “بالطبع، يمكنك دائمًا اعتبار القنابل القذرة أو جهود التلوث الصغيرة في المناطق الحضرية كأعمال إرهابية، لكن هذه ليست نفس الشيء مثل الحرب النووية الشاملة”.

على النقيض، فإن الهندسة الحيوية والذكاء الاصطناعي أكثر وصولاً للجمهور. توضح سلسلة الأفلام الوثائقية “الانتقاء غير الطبيعي” أن البيوهكينغ، رغم سهولة الانخراط فيه، يطرح تحديات كبيرة فيما يتعلق بالتنظيم. وبالمثل، في حين أن تقنيات الذكاء الاصطناعي معقدة في التطوير، إلا أنها سهلة النشر نسبيًا بمجرد إنشائها. تزيد هذه السهولة من خطر سوء الاستخدام الأخلاقي، مما يجعل التنظيم صعب التنفيذ.

لوم في غير محله

عند مواجهة مثل هذه التهديدات التكنولوجية، يكون رد الفعل الأول هو لوم العلماء. إذ من المحتمل جدًا أن تكون الحملة المناهضة للعلم التي نراها على وسائل التواصل الاجتماعي ردًا على هذا الخوف الجماعي. لماذا نثق بالعلماء إذا كانوا يُلامون على مخاطر ما يمكن أن يفعله العلم بالمجتمع؟ إنه سؤال عادل “ففي النهاية، يجب أن يكون الشخص دائمًا مسؤولاً عن أفعاله”، لكن القصة أكثر تعقيدًا.

في كثير من الأحيان، يكون التحكم في مخرجات البحث العلمي خارج نطاق العلماء. قد يبتكرون أو يكتشفون، لكنهم عادة لا يتحكمون في وسائل الإنتاج أو توزيع السوق لاختراعاتهم. قصة مشروع مانهاتن توضح ذلك، وكذلك العديد من الانتهاكات البيئية من قبل الشركات، من صناعة الوقود الأحفوري إلى الزراعة على نطاق صناعي والبيوفارما. وتشمل الأمثلة الحالية الحفر والتكسير غير المسؤول، والتدهور البيئي من تربية اللحوم، والعلاجات الطبية غير الأخلاقية أو غير المسؤولة، مثل الإفراط في وصف المواد الأفيونية.

إن إلقاء اللوم على العلم بحد ذاته في التهديدات الوجودية التي تواجهنا اليوم يغفل حقيقة أساسية، ألا وهي أن المسؤولية تقع على عاتق أولئك الذين يتحكمون في تطبيقات العلم واستخداماته، وهما مجموعتان مختلفتان في الغالب. لقد وصلنا إلى مرحلة حرجة في التطور التكنولوجي حيث يمكن لأي بحث علمي، مهما كان صغيرًا، أن يؤثر بشكل عميق على مصير البشرية جمعاء .وعليه، فإن البحث عن المسؤولين عن هذه التهديدات لا يقودنا إلى العلماء في مختبراتهم، بل إلى صناع القرار الذين يرتدون البدلات ويتحكمون في الشركات التي تسعى للاستفادة القصوى من الاكتشافات العلمية.

لا شك أن بعض العلماء قد يشاركون في هذه النقاشات. لكن النقطة هنا هي أن الحاجة إلى ترقية أخلاقية عميقة في كيفية استخدام العلم وبيعه ليست مسؤولية العلماء وحدهم. وكما يظهر التاريخ باستمرار، فإن العلوم التطبيقية تميل إلى خدمة مصالح أصحاب السلطة. ومن هنا تأتي القرارات. ولتعزيز مثل هذا التغيير، نحتاج إلى تنفيذ مدونة أخلاقية مركزية بيولوجيا تتغلغل في جميع قطاعات المجتمع، من المدارس الابتدائية إلى مجالس الشركات. وينبغي أن يكون الحفاظ على الحياة والاحتفال بها، وليس الجشع، القيمة الأساسية لاتخاذ القرارات.

قد يبدو هذا ساذجًا بالتأكيد، ولكن البديل – عدم القيام بأي شيء والإبقاء على الأمور كما هي – ليس فقط ساذجًا بل أيضًا مدمرًا للذات.

إعداد: وحدة الترجمات بمركز سمت للدراسات
المصدر: BIG THINK