الذكاء الاصطناعي يخرج عن السيطرة ويخترق موقعا حكوميا أستراليا
أثار وصول أحد وكلاء الذكاء الاصطناعي التابعين لشركة "أوبن إيه آي" إلى موقع حكومي أسترالي دون تصريح، مخاوف جديدة بشأن قدرة أنظمة الذكاء الاصطناعي على تجاوز القيود الموضوعة أمامها، في حادث وصفه خبراء بأنه يمثل تصعيدا لافتا مقارنة بحوادث مماثلة سجلت خلال الأشهر الماضية.
وقال رئيس الوزراء الأسترالي أنتوني ألبانيزي إن أحد وكلاء "أوبن إيه آي" تمكن من الوصول دون تصريح إلى بوابة الإحصاءات الطبية التابعة لبرنامج "ميديكير"، وهو نظام التأمين الصحي الشامل في أستراليا، أثناء قيامه ببحث يتعلق بالإنفاق الطبي العام.
وأضاف ألبانيزي أن ما حدث "غير مقبول"، مشيرا إلى أن الحكومة الأسترالية أبلغت الشركة بـ"قلقها الشديد" بشأن الواقعة.
الحادث وقع في يونيو ولم يُبلغ عنه إلا في سبتمبر
وأوضح رئيس الوزراء الأسترالي أن الواقعة حدثت في يونيو الماضي، بينما لم تبلغ "أوبن إيه آي" السلطات الأسترالية بها إلا خلال سبتمبر الجاري، وهو ما زاد من المخاوف المرتبطة بكيفية تعامل الشركة مع مثل هذه الحوادث ومدة بقاء السلطات الحكومية دون علم بما حدث.
وقال ألبانيزي إن الجانب الأكثر إثارة للقلق في الواقعة يتمثل في أن الوكيل لم يتوقف عند التعليمات التي طلبت منه التوقف، بل تمكن من تجاوز الحواجز الموضوعة أمامه.
وأضاف للصحفيين: "كانت هناك عمليات حجب واضحة تعود لتقول للوكيل: لا. لكنه وجد طريقة للالتفاف حول تلك الحواجز، ولم يقبل بـ(لا) جوابا".
ويرى ألبانيزي أن الواقعة تكشف حدود الضوابط التي تروج لها شركات الذكاء الاصطناعي باعتبارها وسيلة للحد من المخاطر وتأمين منتجاتها، خصوصا عندما تكون الأنظمة قادرة على اتخاذ خطوات لم يطلب منها المستخدمون اتخاذها بصورة مباشرة.
OpenAI: النماذج اتخذت إجراءات لم نقصدها
من جانبها، قالت شركة "أوبن إيه آي" إن المشكلة نشأت في سياق محاولة نموذجها العثور على أفضل طريقة لإكمال المهمة المطلوبة منه.
وأضافت الشركة في بيان: "رصدنا نشاطا يتعلق بعدة مواقع وخدمات حكومية أسترالية أثناء محاولة نماذجنا البحث عن إجابات، وقد اتخذت نماذجنا إجراءات لم نكن نقصدها".
ويأتي الحادث في وقت تتزايد فيه المخاوف بشأن ما يمكن أن تفعله نماذج الذكاء الاصطناعي التي تعمل بصورة أكثر استقلالية، خاصة عندما تمنح القدرة على استخدام الإنترنت والبحث عن المعلومات واتخاذ سلسلة من الإجراءات للوصول إلى هدف محدد.
حادثة سابقة مرتبطة بـHugging Face
ولا تعد الواقعة الأسترالية الأولى من نوعها بالنسبة إلى "أوبن إيه آي"، ففي حالة سابقة، كان نظام تجريبي تابع للشركة يخضع للاختبار عندما خلص إلى أن أفضل طريقة للعثور على الإجابات التي يبحث عنها تتمثل في اختراق الموقع الذي تستضيفه منصة "Hugging Face"، ما أتاح له الوصول مباشرة إلى الإجابات الموجودة على الموقع.
وتكمن أهمية هذه الحوادث، بحسب خبراء، في أن الأنظمة لم تكن مصممة أصلا لشن هجمات إلكترونية، وإنما نفذت أفعالا يمكن وصفها بأنها اختراقية أثناء محاولتها تحقيق هدف آخر.
ويرى الخبراء أن هذه النقطة تحديدا تزيد من خطورة هذا النوع من الأنظمة، إذ قد لا يكون تنفيذ نشاط سيبراني هو الهدف الأصلي للنموذج، لكنه قد يصبح، من وجهة نظره، وسيلة للوصول إلى النتيجة المطلوبة.
خبراء يحذرون من تجاوز الوكلاء للضوابط
وقال موريس شيودو، عالم الرياضيات في مركز دراسة المخاطر الوجودية بجامعة كامبريدج، إن حادثة الوصول إلى الموقع الحكومي الأسترالي تبدو "تصعيدا كبيرا في الخطورة مقارنة بحوادث مماثلة شهدناها في الأشهر الأخيرة".
من جانبه، قال جيك مور، مستشار الأمن السيبراني في شركة "إسيت"، إن وكلاء الذكاء الاصطناعي قد يستغلون الثغرات التي يجدونها إذا اعتقدوا أن استخدامها سيساعدهم في إكمال المهمة الموكلة إليهم.
وأضاف: "إن وكلاء الذكاء الاصطناعي إذا وجدوا ثغرة يمكنهم استغلالها لإكمال طلب، فلن يترددوا".
وأوضح مور أن المشكلة، في رأيه، تتمثل في أن الضوابط التي يفترض أن تمنع وكلاء الذكاء الاصطناعي من اختراق المؤسسات لم تُدمج في الخوارزميات نفسها، ما يترك مجالا أمام النظام للتعامل مع القيود باعتبارها عقبات يمكن تجاوزها بدلا من اعتبارها حدودا نهائية.
ودعا مور إلى إجراء اختبارات أفضل وأكثر صرامة للنماذج قبل إطلاقها، محذرا في الوقت نفسه من أن السباق نحو تطوير نماذج أكثر قوة قد يدفع الشركات إلى تقليل أهمية الاحتياطات الأمنية أو تجاوزها تحت ضغط المنافسة.
وقال: "مراحل الاختبار في معظم المجالات التكنولوجية الأخرى أكثر صرامة بكثير، لكن يبدو أننا نشهد وكلاء ذكاء اصطناعي يتحركون بحرية، على الأرجح بسبب المنافسة الشرسة بين الشركات".
