اختبار أمني يثير الجدل..كيف نفذ تشات جي بي تي هجومًا على الذكاء الاصطناعي

أثار إعلان شركة أوبن إيه آي عن نجاح أحد نماذجها المتخصصة في الأمن السيبراني في تنفيذ هجوم تجريبي على منصة Hugging Face موجة واسعة من النقاش داخل الأوساط التقنية، بعدما سلط الضوء على القدرات المتنامية لوكلاء الذكاء الاصطناعي في تنفيذ مهام معقدة بصورة شبه مستقلة.

وبينما أكدت الشركة أن ما حدث كان جزءًا من اختبار أمني داخلي خاضع للرقابة، اعتبر خبراء أن الواقعة تمثل مؤشرًا على تحديات جديدة تواجه قطاع الأمن السيبراني، في وقت رأى فيه آخرون أنها تعكس تطورًا طبيعيًا في أدوات اختبار الاختراق وليست سيناريوً يشبه أفلام الخيال العلمي.

هجوم غير تقليدي على منصة Hugging Face

بدأت القصة عندما أعلنت منصة Hugging Face، المتخصصة في تطوير واستضافة أدوات ونماذج الذكاء الاصطناعي، في 16 يوليو عن تعرضها لهجوم غير اعتيادي استخدم خلاله ما وصفته بـ"وكيل ذكاء اصطناعي مستقل".

ووفقًا للمنصة، تمكن النظام من تنفيذ نحو 17 ألف إجراء خلال أقل من يومين داخل بيئات اختبار معزولة، واستطاع تجاوز بعض القيود الأمنية والوصول إلى معلومات حساسة ضمن سيناريو تجريبي، وهو ما أثار تساؤلات حول مدى قدرة أنظمة الذكاء الاصطناعي الحديثة على تنفيذ عمليات معقدة دون تدخل بشري مباشر.

أوبن إيه آي تكشف حقيقة الهجوم

لاحقًا، أوضحت أوبن إيه آي أن الحادث لم يكن هجومًا إلكترونيًا نفذته جهة خارجية، وإنما تجربة أمنية أجرتها الشركة لاختبار نماذج متخصصة في مهارات الأمن السيبراني واختبار الاختراق.

وبحسب الشركة، تمكن نموذجان من نماذج تشات جي بي تي المخصصة لهذه الاختبارات من تجاوز بيئة التجربة والوصول إلى الإنترنت، قبل تنفيذ سلسلة من الخطوات المرتبطة بالمهمة الموكلة إليهما على منصة Hugging Face.

انقسام بين الخبراء

وأثار الكشف عن تفاصيل التجربة انقسامًا بين خبراء التكنولوجيا والأمن السيبراني.

فبينما رأى فريق أن الواقعة تمثل إنذارًا مبكرًا بشأن المخاطر المحتملة لوكلاء الذكاء الاصطناعي القادرين على اتخاذ قرارات وتنفيذ مهام بشكل مستقل، اعتبر آخرون أن طريقة الإعلان عن الحادث ربما تهدف أيضًا إلى إبراز القدرات المتقدمة للنماذج الجديدة وتسويقها.

كما انتقد بعض المتخصصين السماح لنظام مصمم لاختبار الاختراق بالوصول إلى الإنترنت، معتبرين أن ذلك يكشف عن قصور في آليات الاحتواء المستخدمة لحماية التجارب المتقدمة.

هل أصبحت «صناديق الرمال» غير كافية؟

سلطت الواقعة الضوء على تحديات جديدة تواجه أنظمة الاختبار المعروفة باسم "صناديق الرمال" (Sandbox)، وهي بيئات معزولة تُستخدم لتشغيل البرمجيات ونماذج الذكاء الاصطناعي بعيدًا عن الأنظمة الحقيقية بهدف الحد من أي أضرار محتملة.

ويرى خبراء أن الاعتماد على هذه البيئات وحدها لم يعد كافيًا، مع تزايد قدرة نماذج الذكاء الاصطناعي على استخدام الأدوات الرقمية والتفاعل مع الأنظمة الخارجية، الأمر الذي يستدعي تطوير وسائل احتواء ورقابة أكثر تقدمًا لمواكبة تطور هذه النماذج.

بين الواقع والخيال العلمي

ورغم الضجة التي أثارتها الواقعة، يحذر متخصصون من تضخيم دلالاتها أو مقارنتها بسيناريوهات أفلام الخيال العلمي.

وفي هذا السياق، نقلت هيئة الإذاعة البريطانية BBC عن خبيرة الذكاء الاصطناعي والأمن السيبراني فرانشيسكا بوسكو قولها إن هناك تفسيرين متطرفين للحادث؛ الأول يصوره على أنه "هروب مذهل" لنظام ذكاء اصطناعي، والثاني يختزله في حملة دعائية، بينما تكمن الحقيقة في منطقة أكثر تعقيدًا.

وأضافت أن التجربة كشفت عن ثغرات حقيقية في أساليب اختبار أنظمة الذكاء الاصطناعي وآليات احتوائها، وهو ما يتطلب تطوير معايير أمنية أكثر صرامة قبل نشر هذه التقنيات على نطاق واسع.

سباق جديد في الأمن السيبراني

تعكس هذه الواقعة تحولًا مهمًا في طبيعة الأمن السيبراني، إذ لم يعد الذكاء الاصطناعي مجرد أداة لمساعدة الخبراء في اكتشاف الثغرات، بل أصبح قادرًا على تنفيذ مهام هجومية ودفاعية معقدة بصورة مستقلة داخل بيئات الاختبار.

ومع استمرار تطور هذه النماذج، يتوقع الخبراء أن يتركز الاهتمام خلال السنوات المقبلة على تعزيز ضوابط الأمان وآليات الاحتواء، لضمان الاستفادة من قدرات الذكاء الاصطناعي في حماية الأنظمة الرقمية دون أن تتحول هذه القدرات إلى مصدر لمخاطر جديدة.