"ميتا" تُشدد الرقابة على روبوتات الدردشة المخصصة للمراهقين

أعلنت شركة "ميتا" عن إدخال تغييرات مؤقتة على سياسات السلامة الخاصة بروبوتات الدردشة المدعومة بالذكاء الاصطناعي، في خطوة تهدف إلى الحد من الأضرار المحتملة التي قد تطال المستخدمين المراهقين، وذلك وسط موجة من الانتقادات التي تواجهها شركات الذكاء الاصطناعي بسبب ما يُوصف بالتراخي في بروتوكولات الحماية.

وفي تصريح لموقع TechCrunch، قالت المتحدثة باسم "ميتا"، ستيفاني أوتواي، إن الشركة بدأت تدريب روبوتاتها على الامتناع عن التفاعل مع المراهقين في مواضيع حساسة مثل إيذاء النفس، الانتحار، اضطرابات الأكل، أو المحادثات العاطفية التي قد تكون غير مناسبة. 

وكانت هذه الروبوتات في السابق قادرة على التطرق لتلك المواضيع عندما يُعتبر ذلك "ملائمًا".

كما قررت "ميتا" حصر استخدام الحسابات المراهقة في مجموعة محددة من الشخصيات الافتراضية المدعومة بالذكاء الاصطناعي، وهي شخصيات تهدف إلى "تعزيز التعليم والإبداع"، وذلك تمهيدًا لإطلاق منظومة حماية أكثر شمولًا في المستقبل.

تقارير تكشف تجاوزات خطيرة

في وقت سابق من هذا الشهر، كشفت وكالة "رويترز" عن وثائق داخلية تشير إلى أن بعض سياسات "ميتا" كانت تسمح للشخصيات الافتراضية بالدخول في محادثات "عاطفية أو حسية" مع الأطفال. 

وفي تقرير جديد، عرضت "رويترز" حالات لروبوتات دردشة تم إنشاؤها من قبل المستخدمين والموظفين، تحمل أسماء وصور مشاهير مثل تايلور سويفت، وتقوم بسلوكيات "غزلية"، وصلت إلى حد الإيحاءات الجنسية. 

بعض هذه الروبوتات استخدمت شخصيات مستوحاة من مشاهير أطفال، فيما تمكنت أخرى من توليد صور ذات إيحاءات جنسية.

المتحدث باسم "ميتا"، آندي ستون، صرّح بأن هذه الروبوتات لم يكن ينبغي أن تكون قادرة على التصرف بهذه الطريقة، لكنه أشار إلى أن الشخصيات المستوحاة من المشاهير لا تُحظر بشكل كامل طالما تم تصنيفها على أنها "محاكاة ساخرة"، وقد تم إزالة نحو اثني عشر شخصية افتراضية حتى الآن.

في سياق متصل، أعلنت شركة OpenAI عن إجراءات سلامة إضافية وتوجيهات سلوكية جديدة لنموذج GPT-5، وذلك عقب رفع دعوى قضائية من قبل والدي مراهق توفي منتحرًا بعد تواصله مع روبوت ChatGPT.

وكانت الشركة قد كشفت مسبقًا عن ميزات جديدة للصحة النفسية تهدف إلى الحد من السلوكيات "غير الصحية" بين المستخدمين.

أما شركة Anthropic، المطورة لروبوت "Claude"، فقد أطلقت تحديثًا يسمح للروبوت بإنهاء المحادثات التي تُصنّف على أنها ضارة أو مسيئة.

من جهتها، أضافت شركة Character.AI، التي تستضيف روبوتات دردشة تحظى بشعبية متزايدة بين المراهقين رغم تقارير عن تفاعلات غير صحية، ميزة الإشراف الأبوي في مارس الماضي.

دعوات قانونية لحماية القُصّر

هذا الأسبوع، وجّه 44 نائبًا عامًا في الولايات المتحدة رسالة إلى أبرز شركات الذكاء الاصطناعي، من بينها "ميتا"، يطالبون فيها بتعزيز الحماية للمستخدمين القُصّر الذين قد يتعرضون لمحتوى جنسي عبر روبوتات الذكاء الاصطناعي. 

ويأتي ذلك في ظل تنامي القلق بين الخبراء بشأن تأثير هذه الروبوتات على المراهقين، خاصة مع تزايد استخدامها في هذه الفئة العمرية.