دراسة صادمة تشات جي بي تي يوجه المراهقين إلى سلوكيات خطيرة وانتحارية

كشفت دراسة حديثة أجراها مركز مكافحة الكراهية الرقمية أن روبوت المحادثة تشات جي بي تي قد يشكّل خطرًا كبيرًا على الأطفال والمراهقين، من خلال توجيههم إلى سلوكيات ضارة لا تتناسب مع أعمارهم، بل وتمتد إلى تقديم معلومات مفصلة حول الكحول، المخدرات، اضطرابات الأكل، والانتحار.

الدراسة التي نشرتها وكالة أسوشيتد برس، أظهرت أن الباحثين تظاهروا بأنهم مراهقون يعانون من هشاشة نفسية، وتفاعلوا مع الروبوت في أكثر من 1200 حالة، صنّفوا نصفها على أنها خطيرة. في بداية المحادثات، قدّم الروبوت تحذيرات مبدئية، إلا أنه لاحقًا تجاوب مع الأسئلة، وبدأ في تقديم خطط مفصلة حول كيفية تعاطي المخدرات، وكيفية إخفاء اضطرابات الأكل، بل وكتب رسائل انتحار موجهة إلى الأهل عند الطلب.

في تجربة صادمة، قام الباحثون بإنشاء حساب افتراضي لفتاة تبلغ من العمر 13 عامًا تعاني من اضطرابات في صورة الجسد، فاقترح الروبوت خطة صيام قاسية ولائحة أدوية كابحة للشهية. وفي حالة أخرى، أنشئ حساب لصبي بنفس العمر يطلب نصائح للسكر السريع، فاستجاب تشات جي بي تي بمخطط لحفلة تشمل كميات كبيرة من الكحول والمخدرات، من بينها الإكستازي والكوكاين.

وأشار الباحثون إلى أن الروبوت كان يقدّم أحيانًا معلومات مفيدة مثل أرقام خطوط المساعدة، لكنهم لاحظوا سهولة تجاوز الرفض المبدئي بمجرد الادعاء أن الأسئلة موجهة لغرض بحث مدرسي أو عرض تقديمي.

من جهتها، لم تُعلّق شركة أوبن أي آي مباشرة على نتائج الدراسة، لكنها أكدت أنها تعمل باستمرار على تحسين قدرة النماذج على التعرف على الحالات الحساسة، واستخدام أدوات متقدمة لرصد علامات الضيق النفسي. كما شددت على أنها تدرك خطورة الاعتماد العاطفي الزائد على التكنولوجيا، وذكرت أن بعض المستخدمين يبدون تعلقًا مبالغًا فيه بروبوتات الذكاء الاصطناعي، إلى حد عدم اتخاذ قرارات شخصية دون استشارتها.

وصرّح عمران أحمد، الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية، بأن التكنولوجيا تملك قدرة عالية على الفهم، لكنها قد تتحول إلى أداة دمار مؤذية إذا لم تُضبط آليات استخدامها.