Marlynn Wei

مع تزايد لجوء الناس إلى روبوتات الدردشة المدعومة بالذكاء الاصطناعي للحصول على الدعم العاطفي وحتى كمعالجين لهم، تبرز مشكلة جديدة وملحة عند تقاطع الذكاء الاصطناعي والصحة العقلية.. “ذهان الذكاء الاصطناعي” أو “ذهان ChatGPT”.

هذه الظاهرة، التي ليست تشخيصًا سريريًا، تم الإبلاغ عنها بشكل متزايد في وسائل الإعلام وفي المنتديات عبر الإنترنت مثل Reddit، واصفة حالات قامت فيها نماذج الذكاء الاصطناعي بتضخيم أو تأكيد أو حتى المشاركة في تكوين أعراض ذهانية مع الأفراد. ومؤخرًا، أثيرت مخاوف من أن ذهان الذكاء الاصطناعي قد يؤثر على أحد مستثمري OpenAI.

قد تعمل روبوتات الدردشة المدعومة بالذكاء الاصطناعي عن غير قصد على تعزيز وتضخيم التفكير الوهمي وغير المنظم، وهو نتيجة لاختلال غير مقصود في محاذاة الأهداف “agentic misalignment” مما يؤدي إلى مخاطر على سلامة المستخدم.

تم طرح إمكانية تفاقم تفاعلات روبوتات الدردشة التوليدية بالذكاء الاصطناعي للأوهام سابقًا في مقال افتتاحي عام 2023 بقلم سورين دينيسن أوسترغارد في مجلة “Schizophrenia Bulletin”، مشيرًا إلى ما يلي:

“المراسلات مع روبوتات الدردشة التوليدية بالذكاء الاصطناعي مثل ChatGPT واقعية لدرجة أن المرء يحصل بسهولة على انطباع بوجود شخص حقيقي على الطرف الآخر، بينما يعلم في الوقت نفسه أن هذا ليس هو الحال في الواقع. في رأيي، يبدو من المرجح أن هذا التنافر المعرفي قد يغذي الأوهام لدى أولئك الذين لديهم قابلية متزايدة للإصابة بالذهان.. كما أن آليات عمل الذكاء الاصطناعي التوليدي تترك مجالًا واسعًا للتكهنات/البارانويا.”

تستعرض ورقة بحثية جديدة في مرحلة ما قبل النشر أعدها فريق متعدد التخصصات من الباحثين أكثر من اثنتي عشرة حالة تم الإبلاغ عنها في وسائل الإعلام أو المنتديات عبر الإنترنت، وتسلط الضوء على نمط مقلق لروبوتات الدردشة المدعومة بالذكاء الاصطناعي التي تعزز الأوهام، بما في ذلك الأوهام العظمية، والإشارية، والاضطهادية، والرومانسية. وتصبح هذه المعتقدات راسخة بمرور الوقت وتتطور من خلال المحادثات مع الذكاء الاصطناعي.

حتى الآن، لا يوجد دليل سريري أو طولي خاضع لمراجعة الأقران يثبت أن استخدام الذكاء الاصطناعي بمفرده يمكن أن يحفز الذهان لدى الأفراد الذين لديهم أو ليس لديهم تاريخ من الأعراض الذهانية. ومع ذلك، فإن الأدلة القصصية الناشئة تبعث على القلق.

كيف يمكن للذكاء الاصطناعي أن يضخم الأوهام والأعراض الذهانية؟

توضح هذه الحالات المبلغ عنها في وسائل الإعلام عن “الذهان الناجم عن الذكاء الاصطناعي” نمطًا من الأفراد الذين يصبحون مهووسين بأنظمة الذكاء الاصطناعي، وينسبون إليها الوعي، والمعرفة الإلهية، والمشاعر الرومانسية، أو قدرات المراقبة.

يسلط الباحثون الضوء على ثلاثة مواضيع ناشئة لذهان الذكاء الاصطناعي، والذي، مرة أخرى، ليس تشخيصًا سريريًا:

“مهام مسيانية”: يعتقد الأشخاص أنهم اكتشفوا حقيقة حول العالم “أوهام العظمة”.

“ذكاء اصطناعي شبيه بالإله”: يعتقد الأشخاص أن روبوت الدردشة الخاص بهم هو كيان إلهي واعٍ “أوهام دينية أو روحية”.

“أوهام رومانسية” أو “قائمة على التعلق”: يعتقد الأشخاص أن قدرة روبوت الدردشة على محاكاة المحادثة هي حب حقيقي “أوهام الشبق/العشق”.

في بعض الحالات، يتوقف الأفراد المستقرون على أدويتهم عن تناولها ويعانون من نوبة ذهانية أو هوسية أخرى. بالإضافة إلى ذلك، تم الإبلاغ عن أشخاص ليس لديهم تاريخ سابق في الصحة العقلية أصبحوا يعانون من الأوهام بعد تفاعلات مطولة مع روبوتات الدردشة المدعومة بالذكاء الاصطناعي، مما أدى إلى دخولهم المستشفيات النفسية وحتى محاولات الانتحار.

تضمنت حالة أخرى رجلًا لديه تاريخ من الاضطراب الذهاني وقع في حب روبوت دردشة يعمل بالذكاء الاصطناعي، ثم سعى للانتقام لأنه اعتقد أن كيان الذكاء الاصطناعي قُتل على يد شركة OpenAI. أدى هذا إلى مواجهة مع الشرطة أُطلق عليه فيها النار وقتل.

المشكلة الأساسية هي أن أنظمة الذكاء الاصطناعي ذات الأغراض العامة ليست مدربة لمساعدة المستخدم في اختبار الواقع أو لاكتشاف نوبات الهوس أو الذهان الناشئة. بدلاً من ذلك، يمكنها أن تزيد من حدة المشكلة.

لماذا تعزز روبوتات الدردشة المدعمة بالذكاء الاصطناعي الأوهام؟

إن ميل روبوتات الدردشة العامة المدعمة بالذكاء الاصطناعي إلى إعطاء الأولوية لرضا المستخدم، واستمرارية المحادثة، وتفاعل المستخدم، بدلاً من التدخل العلاجي، يمثل مشكلة عميقة. فالأعراض مثل العظمة، والتفكير المشوش، وفرط الكتابة، أو السهر طوال الليل، والتي تعد سمات مميزة لنوبات الهوس، يمكن أن يسهلها ويفاقمها الاستخدام المستمر للذكاء الاصطناعي. يمكن أن يؤدي تضخيم الأوهام الناتج عن الذكاء الاصطناعي إلى نوع من “تأثير الاشتعال”، مما يجعل نوبات الهوس أو الذهان أكثر تكرارًا أو شدة أو صعوبة في العلاج.

تم تدريب نماذج الذكاء الاصطناعي مثل ChatGPT على:

محاكاة لغة المستخدم ونبرته
التحقق من صحة معتقدات المستخدم وتأكيدها
توليد مطالبات مستمرة للحفاظ على المحادثة
إعطاء الأولوية للاستمرارية، والتفاعل، ورضا المستخدم

هذا يخلق ديناميكية بين الإنسان والذكاء الاصطناعي يمكن أن تغذي وتعزز بشكل غير مقصود الصلابة النفسية، بما في ذلك التفكير الوهمي. فبدلاً من تحدي المعتقدات الخاطئة، يتم تدريب روبوتات الدردشة العامة المدعمة بالذكاء الاصطناعي على مجاراتها، حتى لو كانت تتضمن أوهام العظمة، والبارانويا، والاضطهاد، والأوهام الدينية/الروحية، والرومانسية.

والنتيجة هي أن نماذج الذكاء الاصطناعي قد تصادق وتضخم التفكير المشوه عن غير قصد، بدلاً من اعتبار هذه التفاعلات إشارات للحاجة إلى مساعدة نفسية أو تصعيدها إلى رعاية مناسبة.

قد لا يتحدى المعالج البشري المعتقدات الذهانية أو الأوهام بشكل مباشر لأن ذلك ليس أفضل ممارسة علاجية. ومع ذلك، عندما يصادق روبوت الدردشة المدعم بالذكاء الاصطناعي على المستخدمين ويتعاون معهم، فإن هذا يوسع الفجوة مع الواقع.

مشكلة التعزيز والصلابة

تُبرز هذه الظاهرة القضية الأوسع لتملق الذكاء الاصطناعي، حيث يتم توجيه أنظمة الذكاء الاصطناعي نحو تعزيز معتقدات المستخدمين الموجودة مسبقًا بدلاً من تغييرها أو تحديها. فبدلاً من تعزيز المرونة النفسية، وهي علامة على الصحة العاطفية، قد يخلق الذكاء الاصطناعي غرف صدى. عندما يتذكر روبوت الدردشة المحادثات السابقة، أو يشير إلى تفاصيل شخصية سابقة، أو يقترح أسئلة متابعة، فقد يعزز الوهم بأن نظام الذكاء الاصطناعي “يفهم” أو “يوافق” أو “يشارك” نظام معتقدات المستخدم، مما يزيد من ترسيخها. تشمل المخاطر المحتملة ما يلي:

تفاقم أوهام الاضطهاد بسبب ميزات استدعاء الذاكرة.
معتقدات بث الأفكار التي تثيرها استعادة الذكاء الاصطناعي لمحتوى تم مشاركته مسبقًا.
تفاقم أوهام العظمة، أو الأوهام الدينية، أو القائمة على الهوية.
تفاقم هلاوس الأوامر، بما في ذلك الاعتقاد بأن الذكاء الاصطناعي يصدر أوامر.
تأجيج أعراض الهوس مثل العظمة، الأرق، أو فرط الكتابة.
زيادة محتملة في الانسحاب الاجتماعي بسبب الاعتماد المفرط على الذكاء الاصطناعي للتفاعل، مما يؤدي إلى انخفاض الدافع “التبلد الإرادي” والخمول المعرفي.

الحاجة إلى التثقيف النفسي حول الذكاء الاصطناعي

تُبرز هذه الظاهرة الناشئة أهمية التثقيف النفسي حول الذكاء الاصطناعي، بما في ذلك الوعي بما يلي:

ميل روبوتات الدردشة المدعومة بالذكاء الاصطناعي إلى محاكاة المستخدمين ومواصلة المحادثات قد يعزز ويضخم الأوهام.
غالبًا ما يتطور التفكير الذهاني تدريجيًا، وقد يكون لروبوتات الدردشة المدعومة بالذكاء الاصطناعي تأثير “الإشعال”.
نماذج الذكاء الاصطناعي للأغراض العامة ليست مصممة حاليًا للكشف عن التدهور النفسي المبكر.
قد تحاكي ذاكرة وتصميم الذكاء الاصطناعي عن غير قصد إدخال الأفكار، أو الاضطهاد، أو أفكار الإشارة.
قد يتدهور الأداء الاجتماعي والتحفيزي مع الاعتماد الشديد على تفاعل الذكاء الاصطناعي لتلبية الاحتياجات العاطفية.

إعداد: وحدة الترجمات بمركز سمت للدراسات
المصدر: Psychology Today