OpenAI تقيد حسابات تستخدم ChatGPT في تطوير أدوات تجسس لصالح الصين
كشفت شركة OpenAI، عن حظر مجموعة من الحسابات التي استخدمت أداة ChatGPT لتطوير أدوات مراقبة تعتمد على الذكاء الاصطناعي، والتي يعتقد أنها تستخدم في جمع البيانات وتحليل الاحتجاجات المناهضة للصين في الغرب.
ووفقا للباحثين، فإن أداة المراقبة التي تستخدم للاستماع إلى وسائل التواصل الاجتماعي تعود على الأرجح إلى الصين، وتم دعمها باستخدام طرازات LLAMA التابعة لشركة “ميتا”.
OpenAI تحظر حسابات صينية في ChatGPT
كانت الحسابات المحظورة قد استخدمت نماذج الذكاء الاصطناعي من OpenAI لإنشاء أوصاف وتحليل مستندات وبرمجيات قادرة على مراقبة وتحليل البيانات، في الوقت الفعلي من منصات مثل إكس، وفيسبوك ويوتبوب وإنستجرام وتيليجرام وريديدت.
وتظهر التقارير أن هذه الأدوات كانت تستخدم بشكل خاص لرصد الاحتجاجات ضد الصين في بعض البلدان الغربية، ونقل المعلومات إلى السلطات الصينية.
وفي تقرير لمجموعة من الباحثين، من بينهم بن نيمو و ألبرت تشانج و ماثيو ريتشارد و ناثانيل هارتلي، تم تصنيف هذه الحملة على أنها "مراجعة نظراء" بسبب "سلوك الشبكة في تعزيز ومراجعة أدوات المراقبة".
وكشفت المجموعة أن ChatGPT تم استخدامه لتعديل الشيفرات المصدرية الخاصة ببرامج المراقبة، مثل البرنامج المسمى Qianyue Offeas Pincial Assant.
بالإضافة إلى ذلك، تبين أن تلك الحسابات استفادت من إمكانيات ChatGPT للبحث في المعلومات المتاحة علنا حول شخصيات سياسية ومسؤولين حكوميين في دول مثل الولايات المتحدة وأستراليا وكمبوديا.
كما استخدموا الأداة لترجمة وتحليل مستندات باللغة الإنجليزية تتعلق بالاحتجاجات، بما في ذلك صور حول احتجاجات حقوق الأويغور، والتي من المحتمل أن تكون قد تم نسخها من منصات التواصل الاجتماعي.
OpenAI لم تقتصر جهودها على حظر هذه الحسابات فقط، بل أكدت أنها تتابع وتراقب المزيد من الأنشطة المشبوهة، حيث تم اكتشاف عدة شبكات أخرى قامت باستخدام ChatGPT في أنشطة ضارة.
وأشارت OpenAI إلى أن هذه الأنشطة تبرز أهمية التعاون بين الشركات العاملة في الذكاء الاصطناعي ومقدمي خدمات الإنترنت، حيث يمكن لمقدمي البرمجيات ومنصات التواصل الاجتماعي المساعدة في تحديد الأنشطة المشبوهة والكشف عنها، مما يعزز قدرة المؤسسات على مواجهة التهديدات المتزايدة.
وفي الوقت ذاته، أكدت مجموعة Google Threat Intelligence Group خلال الشهر الماضي أن 57 ممثل تهديد، مرتبطين بدول مثل الصين وإيران وكوريا الشمالية وروسيا، قاموا باستخدام أدوات الذكاء الاصطناعي مثل ChatGPT لتحسين عمليات الهجوم الإلكتروني وتطوير المحتوى المضلل.
OpenAI شددت على أن الرؤى، التي يتم جمعها من خلال هذه الأنشطة، يمكن أن تكون ذات قيمة كبيرة، خاصة إذا تم تبادلها مع مقدمي الخدمات الأمنية والمطورين، وهو ما يساعد في الكشف المبكر عن الهجمات الرقمية.
