غروك فشل في التحقق من صحة معلومات حول حرب إيران وإسرائيل

العربي الجديد

استمع إلى الملخص

مع تقليص منصات التكنولوجيا اعتمادها على مدققي الحقائق البشريين، يتزايد استخدام المستخدمين لروبوتات الدردشة المدعومة بالذكاء الاصطناعي بحثاً عن معلومات موثوق بها، لكن ردودها غالباً ما تكون مضلّلة. مثلاً أظهرت دراسة أن روبوت الدردشة غروك من شركة إكس إيه آي، التي يملكها إيلون ماسك، يعاني عيوباً في التحقق من صحة المعلومات حول الحرب بين إسرائيل وإيران.

وأفادت الدراسة الصادرة عن مختبر أبحاث الطب الشرعي الرقمي، التابع للمجلس الأطلسي، وهو مركز أبحاث أميركي، بأن التحقيق في أداء غروك خلال الأيام الأولى من الصراع الإسرائيلي الإيراني يكشف عن عيوب وقيود كبيرة في قدرة روبوت الدردشة على توفير معلومات دقيقة وموثوق بها ومتسقة خلال أوقات الأزمات. وأظهر الروبوت صعوبة في التحقق من المعلومات، بما في ذلك تلك المؤكدة مسبقاً، وتحليل الصور الزائفة، وتجنب الادعاءات غير المثبتة.

وحلّل المختبر نحو 130 ألف منشور بلغات مختلفة على منصة إكس، حيث دُمج غروك، فوجد التحليل أنه يواجه صعوبة في التحقق من المحتويات المُولّدة بواسطة الذكاء الاصطناعي. ويقول الباحثون إنه ارتكب