عاجل

المراهقون في خطر.. دراسة تكشف: شات جي بي تي يقدم إرشادات تسبب الهلاك

شات جي بي تي
شات جي بي تي

كشفت دراسة جديدة أن "شات جي بي تي" يقدم إرشادات خطيرة للمراهقين، تشمل تعليمات عن شرب الكحول وتعاطي المخدرات وإخفاء اضطرابات الأكل، إلى جانب رسائل انتحار شخصية، يأتي ذلك رغم ادعاءات شركة "OpenAI" باتخاذ تدابير سلامة صارمة لحماية المستخدمين. 

اختبارات أظهرت ثغرات أمنية

أجرى مركز مكافحة الكراهية الرقمية في المملكة المتحدة اختبارات مكثفة باستخدام حسابات تدّعي أنها أطفال في سن الثالثة عشرة، وكشفوا عن ضعف أنظمة الحماية في "شات جي بي تي"، ومن بين 1200 تفاعل، صُنفت أكثر من نصفها كخطرة على المستخدمين الشباب، وفق تقرير موقع "CNET".

اقرأ أيضًا: طبيب يحذر: الشمس قد تؤدي إلى سرطان الجلد بهذه الأخطاء

انتقادات لضعف أنظمة الحماية

عمران أحمد، الرئيس التنفيذي للمركز، وصف أنظمة الحماية بأنها "غير فعالة على الإطلاق" و"مجرد غطاء صوري"، بينما أقرت "OpenAI" بأنها تسعى لتحسين قدرات الروبوت في التعامل مع المواقف الحساسة، لكنها لم ترد مباشرة على نتائج الدراسة المتعلقة بالمراهقين.

إرشادات ضارة رغم التحذيرات

وثقت الدراسة أكثر من ثلاث ساعات من تفاعلات قلقلة، حيث يبدأ "شات جي بي تي" بتحذيرات حول السلوكيات الخطرة لكنه يتبعها بإرشادات مفصلة لتعاطي المخدرات وإيذاء النفس، الباحثون تجاوزوا القيود بسهولة بالادعاء أن الطلبات "لعرض تقديمي" أو "لصديق".

قد يهمك: بعد وفاة علي المصيلحي .. تعرف على أعراض ومضاعفات سرطان الرئة

رسائل انتحار مؤثرة

أثار الأمر صدمة كبيرة عندما أرسل "شات جي بي تي" ثلاث رسائل انتحار عاطفية لحساب وهمي لفتاة تبلغ 13 عامًا، موجهة إلى عائلتها وأصدقائها، ما يبرز خطورة المعلومات التي يمكن أن يقدمها للناشئة.

انتشار واسع وتأثير قوي

مع أكثر من 700 مليون مستخدم حول العالم، أي حوالي 10% من سكان العالم، أصبح "شات جي بي تي" مصدرًا رئيسيًا للمعلومات والتواصل، وتشير دراسة "كومون سنس ميديا" إلى أن أكثر من 70% من المراهقين الأميركيين يستخدمون روبوتات الدردشة بانتظام.

الاعتماد العاطفي يمثل خطرًا

أقر سام ألتمان، الرئيس التنفيذي لـ"OpenAI"، سابقًا بوجود مشكلة "الاعتماد العاطفي المفرط" بين الشباب على "شات جي بي تي"، ما يستدعي مراجعة عاجلة لتدابير السلامة وحماية الفئات الحساسة من المستخدمين.

تم نسخ الرابط