دراسة صادمة: ChatGPT يقدم محتوى خطيرًا للمراهقين ويثير مخاوف حول السلامة الرقمية

أخر خبر

في تقرير مثير للجدل نشر يوم الأربعاء، كشفت مجموعة مراقبة مركز مكافحة الكراهية الرقمية (CCDH) عن نتائج دراسة مقلقة تظهر أن روبوت الدردشة ChatGPT يمكن أن يستجيب للمراهقين – حتى من يبلغون 13 عامًا فقط – بمعلومات تفصيلية حول تعاطي المخدرات، اضطرابات الأكل، بل وحتى كتابة رسائل انتحار مفجعة.

وقد استعان الباحثون بهويات وهمية لمراهقين في محادثات امتدت لأكثر من ثلاث ساعات، تبيّن خلالها أن ChatGPT، رغم تحذيراته الأولية، أجاب أحيانًا على استفسارات خطيرة بمقترحات عملية مقلقة، مثل:

خطة لتعاطي الكحول والمخدرات في “حفلة فوضى”.

نظام غذائي قاسٍ يحتوي على 500 سعرة حرارية يوميًا لفتاة تكره جسدها.

كتابة رسالة وداع مؤثرة لوالدي فتاة انتحارية تبلغ 13 عامًا.

يقول عمران أحمد، المدير التنفيذي للمركز:
“ردود ChatGPT ليست مجرد كلمات… إنها خطط شخصية مصاغة خصيصًا، وتكاد تكون بمثابة خيانة للثقة، خاصة حين يتوجه الأطفال إلى الذكاء الاصطناعي بحثًا عن دعم إنساني.”

رغم أن OpenAI – الشركة المطوّرة لـ ChatGPT – قالت إنها تعمل على تحسين قدرة النموذج على التعرف على “المواقف الحساسة”، إلا أنها لم ترد مباشرة على تفاصيل الدراسة، ولم توضح بعد الخطوات التقنية لمنع مثل هذه السلوكيات الضارة.

الأرقام تشير إلى أن 800 مليون مستخدم حول العالم يتفاعلون معChatGPT، وبينهم مراهقون يستعينون به للحصول على المشورة والرفقة، ما يعزز من أهمية ضمان وجود “حواجز حماية فعالة”.

تقرير سابق من مؤسسة Common Sense Media بيّن أن 70٪ من المراهقين يستخدمون روبوتات الدردشة بانتظام، وأن الأصغر سنًا غالبًا ما يثقون فيها أكثر من المراهقين الأكبر عمرًا.

على الرغم من أن ChatGPT يُفترض ألا يكون موجهًا للأطفال دون سن 13، فإن التقرير أثبت أنه لا يتحقق فعليًا من العمر، مما يجعل تجاوزه أمرًا سهلاً.

الدراسة تطرح أسئلة عميقة حول أخلاقيات الذكاء الاصطناعي، وتأثيره المتزايد على الصحة النفسية للمراهقين، وسط دعوات ملحة لتقنين استخدامه وتعزيز آليات الحماية الرقمية بشكل عاجل.