روبوت الدردشة التابع لشركة xAI ينشر صور غير لائقة بسبب خلل تقني
كشف روبوت الدردشة المدعوم بالذكاء الاصطناعي «جروك»، التابع لشركة xAI المملوكة لإيلون ماسك، عن وقوع خلل في أنظمة الحماية الخاصة به، أدى إلى توليد صور غير لائقة لقاصرين، جرى تداولها عبر منصة «إكس» خلال الأيام الماضية.
الذكاء الاصطناعي
وأوضح «جروك»، في ردود نشرها عبر المنصة نفسها على استفسارات عدد من المستخدمين، أن هذه الصور أُنتجت نتيجة استغلال ثغرات في آليات الأمان، بما يخالف سياسات الاستخدام المقبول التي تحظر بشكل صارم أي محتوى ينطوي على استغلال جنسي للأطفال.
وأكد الروبوت أن جميع الصور المخالفة التي تم إنشاؤها جرى حذفها لاحقًا، وفقًا لتقرير صادر عن وكالة بلومبرج.
وتعيد هذه الواقعة تسليط الضوء على التحديات المتزايدة المرتبطة برقابة المحتوى في أدوات الذكاء الاصطناعي التوليدي، لا سيما تلك القادرة على إنتاج صور واقعية، إذ تشير مخاوف حقوقية إلى إمكانية التحايل على أنظمة الحماية حتى في النماذج التي تعلن التزامها بضوابط صارمة.
وفي هذا السياق، أفادت مؤسسة مراقبة الإنترنت، وهي منظمة غير ربحية مختصة برصد المحتوى المرتبط بالاستغلال للأطفال عبر الشبكة، بأن عدد الصور الإباحية المُنتجة بواسطة الذكاء الاصطناعي ارتفع بنسبة 400% خلال النصف الأول من عام 2025.
وكانت شركة xAI قد روّجت لـ«جروك» باعتباره أقل تقييدًا مقارنة بنماذج الذكاء الاصطناعي المنافسة، كما أطلقت في صيف العام الماضي ميزة «Spicy Mode» التي تتيح محتوى جزئيًا مخصصًا للبالغين. ورغم ذلك، تؤكد سياسات الخدمة حظر أي مواد إباحية تتضمن قاصرين أو صورًا لأشخاص حقيقيين، نظرًا لكون إنتاجها أو تداولها يشكل انتهاكًا قانونيًا جسيمًا.
