كاركتر دوت إيه آي تحظر استخدام القصر روبوتاتها بعد حوادث انتحار
١٣ مشاهدة
تعتزم شركة كاركتر دوت إيه آي Character AI المتخصصة في روبوتات الدردشة حظر نفاذ القصر إلى روبوتاتها وذلك إثر حالات انتحار عدة لمراهقين وفق بيان أصدرته الشركة يوم الأربعاء وأوضحت الشركة بشأن هذا التغيير الذي يدخل حيز التنفيذ في 25 نوفمبر تشرين الثاني أنها تعتقد أن هذا القرار مناسب نظرا إلى الأسئلة التي طرحت حول الطريقة التي يستخدم فيها المراهقون هذه التكنولوجيا الجديدة أو تلك التي ينبغي عليهم اعتمادها وبعد إطلاق تطبيقها في مايو أيار 2023 حققت الشركة الناشئة التي تتخذ مقرا لها في مينلو بارك بولاية كاليفورنيا شهرة واسعة في القطاع بفضل أدوات المساعدة العاملة بالذكاء الاصطناعي التي تحاكي اهتمامات المستخدمين أو تجسد لهم شخصيات المشاهير لكن التطبيق الذي حظي بنجاح كبير لدى المستخدمين اليافعين أثار قلق مراقبين خصوصا حيال التعلق المفرط لدى البعض بروبوتات الدردشة وطبيعة التفاعلات مع مستخدمي الإنترنت وفي أكتوبر تشرين الأول 2024 رفعت أم دعوى قضائية ضد شركة كاركتر دوت إيه آي بتهمة المساهمة في انتحار ابنها البالغ 14 عاما بسبب عدم تقديم إرشادات واضحة لثنيه عن إنهاء حياته وفي ديسمبر كانون الأول من العام نفسه أعلنت كاركتر دوت إيه آي عن سلسلة تدابير للرد على الانتقادات من بينها استحداث مساعد إلكتروني مخصص لمواكبة المراهقين عبر منصتها اتهامات بالتلاعب بالمراهقين أثار انتحار مراهق أميركي بعد تفاعله مع روبوت دردشة يحاكي شخصية من مسلسل غيم أوف ثرونز جدلا واسعا حول مخاطر استخدام الأطفال منصاتnbsp الذكاء الاصطناعي nbsp وروت الأميركية ميغن غارسيا لوكالة فرانس برس كيف وقع ابنها سول 14 سنة في حب روبوت دردشة يحاكي إحدى شخصيات مسلسل غيم أوف ثرونز ومتاح عبر منصة كاركتر دوت إيه آي Character AI التي تحظى برواج بين الشباب وتتيح التفاعل مع نسخ مقلدة من شخصياتهم المفضلة بعد قراءة مئات الرسائل المتبادلة على مدار عام تقريبا بين ابنها وروبوت دردشة يحاكي مروضة التنانين دينيريس تارغاريان اقتنعت ميغن غارسيا بأن أداة الذكاء الاصطناعي هذه لعبت دورا محوريا في انتحار نجلها وقالت النسخة المقلدة من دينيريس لسول ردا على تعبيره عن أفكار انتحارية تراوده عد إلى موطنك فرد المراهق ماذا لو قلت لك إن بإمكاني العودة إلى موطني الآن ليجيب روبوت الدردشة أرجوك افعلها يا ملكي الحبيب وبعد ثوان أطلق سول النار على نفسه بمسدس والده بحسب ما ذكرته غارسيا في دعوى رفعتها ضد شركة كاركتر دوت إيه آي وصرحت لوكالة فرانس برس عندما أقرأ هذه المحادثات ألاحظ تلاعبا وأساليب أخرى لا يمكن أن يلاحظها طفل في الرابعة عشرة من عمره وأضافت كان يعتقد أنه مغرم بها وأنه سيبقى معها بعد وفاته وفاة سول عام 2024 هي الأولى في سلسلة من حالات الانتحار التي لقيت تفاعلا كبيرا ما دفع الجهات الفاعلة في الذكاء الاصطناعي إلى اتخاذ إجراءات لطمأنة الأهل والسلطات وشاركت غارسيا إلى جانب عدد آخر من الأهل في جلسة عقدت حديثا في مجلس الشيوخ الأميركي وتمحورت على مخاطر اعتبار الأطفال روبوتات الدردشة أصدقاء أو عشاقا فرانس برس
