أصبحت ماليزيا وإندونيسيا أول دولتين في العالم تحجبانnbsp روبوت الدردشة غروك القائم على الذكاء الاصطناعي والمطور من قبل شركة إكس إيه آيnbsp المملوكة لإيلون ماسك بعد استخدامه في إنتاج صور جنسية مفبركةnbsp لنساء وقاصرين باستخدام أوامر نصية بسيطة ويعكس هذا القرار تنامي القلق العالمي من أدوات الذكاء الاصطناعي التوليدية القادرة على إنتاج صور وأصوات ونصوص شديدة الواقعية في وقت تظهر فيه الضوابط الحالية عدم قدرتها على منع إساءة الاستخدام ويواجه غروك المستخدم عبر منصة إكس nbsp انتقادات حادة بسبب إنتاجه صورا معدلة تتضمن نساء بملابس البحر أو في أوضاع جنسية إضافة إلى محتوى يتضمن أطفالا وأكدت الهيئات التنظيمية في البلدين الآسيويين أن إجراءات الحماية المتاحة لم تعد كافية لمنع إنتاج ونشر محتوى إباحي مفبرك خصوصا ذلك الذي يستهدف النساء والقاصرين وبدأت الحكومة الإندونيسية حجب التطبيق بشكل مؤقت أول أمس السبت تبعتها ماليزيا أمس الأحد وقالت وزيرة الاتصالات والشؤون الرقمية الإندونيسية ميوتيا حفيظ في بيان ترى الحكومة أن الصور الجنسية المفبركة من دون موافقة أصحابها تمثل انتهاكا خطيرا لحقوق الإنسان وكرامة الأفراد وسلامتهم في الفضاء الرقمي وأضافت الوزارة أن قرار الحجب يستهدف حماية النساء والأطفال والمجتمع من انتشار المحتوى الإباحي المنتج عبر الذكاء الاصطناعي وأوضحت نتائج أولية أن غروك يفتقر إلى آليات فعالة لمنع المستخدمين من إنشاء أو توزيع صور إباحية تعتمد على صور حقيقية لمقيمين في إندونيسيا وفق ما قاله المدير العام للإشراف على الفضاء الرقمي ألكسندر سابار الذي لفت إلى أن هذه الممارسات تنتهك الخصوصية وحقوق الصورة وقد تتسبب في أضرار نفسية واجتماعية وتسيء لسمعة الضحايا وفي كوالالمبور أمرت هيئة الاتصالات والوسائط المتعددة الماليزية بفرض تقييد مؤقت على غروك بسبب تكرار إساءة استخدامه لإنتاج صور جنسية مفبركة ومن دون موافقة أصحابها بما في ذلك محتوى يطاول نساء وقاصرين وأفادت الهيئة بأن الإخطارات التي وجهت هذا الشهر إلى شركتي إكس وإكس إيه آي للمطالبة بضوابط أقوى قوبلت بردود اعتمدت بشكل أساسي على آليات التبليغ من المستخدمين وجاء في بيانها يفرض هذا التقييد بوصفه إجراء وقائيا ومتناسبا بينما تستمر العمليات القانونية والتنظيمية مشيرة إلى أن الحجب سيظل قائما إلى حين تطبيق ضمانات فعالة أطلق غروك عام 2023 وهو متاح مجانا عبر منصة إكس حيث يمكن للمستخدمين طرح الأسئلة عليه وربطه بالمنشورات التي يكتبونها مباشرة أو بالردود وفي الصيف الماضي أضافت الشركة ميزة توليد الصورnbsp التي تضمنت ما يعرف بـالوضع الحار أو Spicy Mode المخصص لإنتاج محتوى للبالغين وتأتي القيود في جنوب شرقي آسيا وسط تزايد التدقيق في غروك في مناطق أخرى من بينها الاتحاد الأوروبي وبريطانيا والهند وفرنسا وقيد غروك الأسبوع الماضي ميزة توليد الصور وحصرها بالمشتركين في النسخة المدفوعة بعد موجة غضب عالمية بسبب انتشار صور جنسية مفبركة لكن منتقدين قالوا إن الخطوة غير كافية ولا تعالج جوهر المشكلة
