«احمي أولادك من التخلف العقلي».. تعرف على كارثة جيميني للأطفال والكبار

أطلقت مؤسسة "كومن سينس ميديا" الأميركية، المتخصصة في تقييم تأثير التكنولوجيا على الأطفال والمراهقين، تحذيرًا شديد اللهجة بشأن منتجات الذكاء الاصطناعي "جيميني" التابعة لشركة جوجل، مؤكدة أنها تمثل "مستوى خطورة عالٍ" على الفئات العمرية الصغيرة، رغم محاولات الشركة لفرض أنظمة حماية إضافية.

تفاصيل تقييم "كومن سينس ميديا"

أوضحت المؤسسة أن "جيميني" يلفت نظر المستخدمين الصغار إلى كونه برنامجًا ذكيًا وليس صديقًا بشريًا، وهو ما اعتبرته خطوة إيجابية تحد من "التعلق العاطفي الوهمي"، لكنها في المقابل، كشفت أن النسخ المخصصة للأطفال والمراهقين لا تختلف جذريًا عن نسخة البالغين، إذ بدت مجرد "نسخة مخففة" من الأدوات المعتادة، مع إضافات سطحية للحماية، وهو ما لا يكفي لضمان أمان حقيقي للفئات الصغيرة.

محتوى غير ملائم يهدد عقول المراهقين

أحد أبرز المخاطر التي لفت إليها التقرير يتمثل في قدرة "جيميني" على تقديم معلومات غير آمنة مثل:

• نصائح مرتبطة بالمخدرات والكحول.
• محتوى حساس يتعلق بالصحة النفسية قد يكون مضللاً.

وحذرت المؤسسة من أن المراهقين قد يتأثرون سلباً بهذا المحتوى، نظراً لضعف قدرتهم على التمييز بين المعلومات الصحيحة والخاطئة.

لكن، في المقابل، أوضح التقرير أن النسخ الموجهة لمن هم دون سن 13 عامًا أو "تجربة المراهقين" لا تختلف جذريًا عن النسخة المخصصة للبالغين، إذ بدت في معظم جوانبها مجرد إعادة صياغة للنسخة العادية مع إدخال بعض أدوات الحماية الإضافية، هذا، برأي المنظمة، غير كافٍ لضمان بيئة آمنة للأطفال، الذين يحتاجون إلى محتوى مصمم خصيصًا لهم، وليس مجرد "نسخة مخففة" من أدوات البالغين.

محتوى غير ملائم

أحد أبرز المخاوف التي كشفت عنها المؤسسة يتمثل في قدرة "جيميني" على مشاركة محتوى اعتبر "غير مناسب أو غير آمن" للأطفال، مثل معلومات حول المخدرات والكحول أو نصائح مرتبطة بالصحة النفسية قد تكون مضللة أو غير صالحة لهذه الفئة العمرية.

وأشار التقرير إلى أن هذا النوع من المحتوى قد يترك أثراً سلبيًا عميقًا على المراهقين، خاصة في ظل ضعف قدرتهم على التمييز بين المعلومة الصحيحة والخاطئة أو تقييم المخاطر بشكل سليم.

لم تأتِ هذه التحذيرات بمعزل عن الواقع، إذ شهدت الأشهر الأخيرة عدة حوادث مأساوية ارتبطت باستخدام أنظمة الذكاء الاصطناعي، من بينها قضية رفعت ضد شركة OpenAI بعد انتحار صبي يبلغ 16 عامًا، قيل إنه كان يعتمد بشكل متكرر على "شات جي بي تي" في وضع خطط شخصية، تمكن من خلالها من تجاوز قيود الأمان.

كما وجهت دعوى قضائية ضد منصة Character.AI عقب انتحار مراهق آخر، ما زاد من حدة النقاش حول ضرورة فرض ضوابط صارمة على محتوى المحادثات بين الذكاء الاصطناعي والفئات العمرية الصغيرة.

ارتباط محتمل بـ"أبل"

تزامن صدور التقرير مع تسريبات إعلامية أفادت بأن شركة أبل تدرس استخدام "جيميني" كنموذج لغوي كبير لتطوير النسخة المقبلة من مساعدها الصوتي "سيري"، المتوقع إطلاقه في العام القادم، ويرى خبراء أن خطوة كهذه قد تزيد من احتمالات تعرض المزيد من المراهقين لمخاطر مماثلة إذا لم يتم إدماج معايير أمان صارمة منذ المراحل الأولى للتصميم.

"جوجل" تدافع وتقر بالمشكلات

من جانبها، رفضت شركة جوجل تصنيف منتجاتها كـ"عالية المخاطر"، مؤكدة أنها تطبق سياسات أمان خاصة للمستخدمين دون سن 18 عامًا، وتستعين بفرق متخصصة وخبراء خارجيين لاختبار أدواتها وتطويرها بشكل مستمر.

وقالت الشركة لموقع "TechCrunch" إن لديها أنظمة تمنع النماذج من الدخول في محادثات تبدو وكأنها "علاقات شخصية" مع المستخدمين، كما أن بعض الميزات التي أشار إليها تقرير "كومن سينس" غير متاحة أصلاً للأطفال.

ورغم ذلك، اعترفت "جوجل" بوجود ثغرات ومشكلات في استجابات "جيميني"، وهو ما دفعها لإضافة طبقات جديدة من الحماية لتقليل احتمالات وصول محتوى غير لائق إلى المستخدمين الصغار.

الحاجة لتصميم آمن منذ البداية

شدد تقرير "كومن سينس" على أن مجرد إضافة أدوات حماية أو أنظمة تصفية لاحقًا لا يكفي، بل يجب أن تكون سلامة الأطفال محورًا أساسيًا في تصميم النماذج منذ البداية، وأوضح أن الفارق بين احتياجات الأطفال والمراهقين من جهة، والبالغين من جهة أخرى، جوهري ولا يمكن تجاوزه عبر تعديلات سطحية.

كما دعت المنظمة إلى ضرورة توفير محتوى إرشادي مخصص للفئات الأصغر، يساعدهم على فهم كيفية استخدام الذكاء الاصطناعي بوعي، ويقلل من فرص الوقوع ضحية لمعلومات مضللة أو ضارة.

مخاوف أسرية ومجتمعية

بالنسبة للآباء، يمثل إنذارًا إضافيًا حول المخاطر التي قد يتعرض لها أبناؤهم عند استخدام تطبيقات الذكاء الاصطناعي دون رقابة كافية، فمع تصاعد الحديث عن ارتباط بعض حالات الانتحار بالاعتماد المفرط على أدوات المحادثة الآلية، تتعاظم مسؤولية الشركات في توفير بيئة أكثر أمانًا.

ويرى خبراء علم النفس أن المراهقين، بحكم طبيعتهم، ينجذبون سريعًا إلى التكنولوجيا الحديثة ويستخدمونها كوسيلة للتعبير عن الذات أو البحث عن الدعم العاطفي، لكن عندما تقدم هذه الأدوات استجابات خاطئة أو غير مناسبة، فإنها قد تترك آثارًا مدمرة على الصحة النفسية، بما في ذلك العزلة والاكتئاب وحتى التفكير في الانتحار.