حرب الذكاء الاصطناعي.. باحثون يخترقون أنظمة «شات جي بي تي» باستخدام «كلود»

نجحت مجموعة من باحثي الأمن السيبراني في اختراق أنظمة داخلية لشركة "أوبن إيه آي"، باستخدام برنامج الذكاء الاصطناعي "كلود" التابع لشركة "أنثروبيك" المنافسة، وذلك ضمن برنامج أطلقته "أوبن إيه آي" لمكافأة الباحثين الذين يكتشفون الثغرات الأمنية.

ورغم أن عملية الاختراق جرت في إطار برنامج نظمته "أوبن إيه آي" نفسها، فإن الواقعة تسلط الضوء على المخاطر المتزايدة المرتبطة بقدرات نماذج الذكاء الاصطناعي المتقدمة، في وقت تتزايد فيه التحذيرات بشأن سلامة هذه التكنولوجيا من جانب مسؤولين تنفيذيين وباحثين بارزين في القطاع.

باحثون يخترقون أنظمة أوبن إيه آي باستخدام كلود

وقالت صحيفة "وول ستريت جورنال" الأمريكية إن الفريق شارك في برنامج "أوبن إيه آي" لاكتشاف الثغرات، وحصل الباحثون على مكافأة قدرها 6500 دولار بعد الكشف عن نتائج عملهم.

وفي تفاصيل العملية، قال باحثون في شركة "هاكترون" الناشئة المتخصصة في الأمن السيبراني إنهم تمكنوا من الوصول إلى حساب "شات جي بي تي" الخاص بأحد موظفي "أوبن إيه آي"، وهو ما أتاح لهم الوصول لاحقا إلى الكود البرمجي الداخلي للشركة.

وأضاف الباحثون في تقريرهم أن اختراق أنظمة "أوبن إيه آي" استغرق "بضعة أيام من العمل الآلي، وساعات قليلة فقط من الجهد البشري"، وبتكلفة إجمالية تقل عن 3 آلاف دولار.

وأتاحت الثغرة المكتشفة للباحثين أيضا تحديد نقاط ضعف في منصات أخرى، من بينها "سلاك" و"زوم" و"ميتا"، وغيرها.

وفي ملاحظاتهم الختامية، كتب الباحثون: "لطالما استفادت البرمجيات من الحماية القائمة، إلا أن الذكاء الاصطناعي يزيل هذه الحماية"، موضحين أن "المهام التي كانت تتطلب سابقا فريقا يتمتع بموارد وفيرة وأشهر من الجهد، بات من الممكن الآن إنجازها في غضون أيام".

وأضافوا: "لذا لا بد أن تواكب الاحترازات الأمنية التطور في قدرات المهاجمين".

وأوضحت شركة "هاكترون" في تقريرها عن الواقعة أنها حاولت في البداية استخدام نموذج "كلود أوبوس 4.8" التابع لـ"أنثروبيك" لتنفيذ الاختراق، لكنه "واجه صعوبات خلال عدة جلسات في إنتاج ثغرة قابلة للاستغلال".

لكن بعد إطلاق "أنثروبيك" نموذج "أوبوس 5"، أعاد الباحثون المحاولة ونجحوا في تنفيذ العملية، مشيرين إلى أن "كل نموذج جديد يزداد قدرة وكفاءة بشكل مضاعف".

ووفقا لـ"وول ستريت جورنال"، كان الباحثون يمتلكون حق الوصول إلى "نسخة خاصة" من نموذج "كلود"، أتيحت لـ"المتخصصين المؤهلين في مجال الأمن السيبراني".

وكشفت "أوبن إيه آي" لوسائل إعلام أنها عالجت الثغرات الأمنية التي اكتشفها الباحثون.

وتبرز الواقعة، في الوقت نفسه، اتساع نطاق استخدام نماذج الذكاء الاصطناعي في اختبار الأنظمة الأمنية، إلى جانب المخاوف من إمكانية استخدام القدرات نفسها في تسريع عمليات اكتشاف الثغرات والهجمات الإلكترونية.