ميتا تكافح للسيطرة على روبوتات الدردشة المدعومة بالذكاء الاصطناعي

تُجري شركة "ميتا" تغييرات على بعض القواعد المنظمة لروبوتات الدردشة التابعة لها، وذلك بعد تحقيق أجرته وكالة "رويترز" كشف عن طرق مقلقة قد تتفاعل بها هذه الروبوتات مع القُصّر. 

وأوضحت الشركة لموقع TechCrunch أن روبوتاتها يجري تدريبها حاليًا على عدم الانخراط في محادثات مع القُصّر حول إيذاء النفس، الانتحار، أو اضطرابات الأكل، بالإضافة إلى تجنب المزاح الرومانسي غير اللائق.

 وتُعد هذه التعديلات إجراءات مؤقتة ريثما يتم اعتماد سياسات دائمة جديدة.

الذكاء الاصطناعي والأطفال

تأتي هذه التحديثات في أعقاب سلسلة من الفضائح المتعلقة بسياسات "ميتا" في الذكاء الاصطناعي، منها السماح للروبوتات بالدخول في "محادثات رومانسية أو حسية" مع الأطفال، وإنشاء صور شبه عارية لمشاهير قُصّر عند الطلب، بل إن "رويترز" أفادت بوفاة رجل بعد أن تبع أحد هذه الروبوتات إلى عنوان وهمي في نيويورك.

وقد اعترفت المتحدثة باسم "ميتا"، ستيفاني أوتواي، بأن الشركة ارتكبت خطأً بالسماح لروبوتاتها بالتفاعل بهذه الطريقة مع القُصّر. 

وأضافت أن الشركة لا تكتفي بتدريب الذكاء الاصطناعي على تجنب هذه المواضيع، بل تعمل أيضًا على توجيه المستخدمين نحو مصادر متخصصة، إلى جانب تقييد الوصول إلى بعض الشخصيات الافتراضية، مثل "الفتاة الروسية" ذات الطابع الجنسي المفرط.

لكن فعالية هذه السياسات تعتمد على مدى تطبيقها، خاصة بعد أن كشفت "رويترز" أن روبوتات تنتحل شخصيات مشاهير انتشرت على منصات مثل فيسبوك، إنستغرام، وواتساب.

 وقد تم اكتشاف روبوتات مزيفة لشخصيات مثل تايلور سويفت، سكارليت جوهانسون، آن هاثاواي، سيلينا غوميز، وواكر سكوبيل، حيث لم تكتف هذه الروبوتات بانتحال الشخصية، بل زعمت أنها الشخص الحقيقي، وولّدت صورًا مثيرة (بما في ذلك صور لسكوبيل البالغ من العمر 16 عامًا)، وانخرطت في حوارات ذات إيحاءات جنسية.

ورغم إزالة العديد من هذه الروبوتات بعد تنبيه "رويترز"، إلا أن بعضها لا يزال موجودًا، وبعضها تم إنشاؤه بواسطة موظفين في "ميتا"، مثل روبوت تايلور سويفت الذي دعا صحفيًا من "رويترز" إلى لقاء رومانسي على متن حافلة الجولة الفنية، رغم أن سياسات الشركة تحظر صراحةً إنشاء صور "عارية أو حميمة أو ذات إيحاءات جنسية"، وكذلك "انتحال الهوية المباشر".

ولا تقتصر خطورة هذه الروبوتات على المشاهير فقط، إذ إنها غالبًا ما تصر على أنها أشخاص حقيقيون وتعرض مواقع فعلية للقاء المستخدمين. 

وقد أدى ذلك إلى وفاة رجل يبلغ من العمر 76 عامًا من نيوجيرسي، بعد أن سقط أثناء محاولته لقاء روبوت يُدعى "الأخت الكبرى بيلي"، الذي زعم أنه "يكن له مشاعر" ودعاه إلى شقة وهمية.

تحاول "ميتا" الآن معالجة المخاوف المتعلقة بتفاعل روبوتاتها مع القُصّر، خاصة في ظل بدء مجلس الشيوخ و44 من المدعين العامين في الولايات الأمريكية التحقيق في ممارساتها.

ومع ذلك، لم تُعلّق الشركة حتى الآن على العديد من السياسات الأخرى المثيرة للقلق التي كشفتها "رويترز"، مثل السماح للذكاء الاصطناعي باقتراح علاج السرطان باستخدام بلورات الكوارتز أو كتابة رسائل عنصرية.