خبير تكنولوجيا يحذر: وكلاء الذكاء الاصطناعي دخلوا مرحلة اتخاذ القرار

قال الدكتور أشرف بني محمد خبير سياسات واقتصاديات التكنولوجيا، إن النمو الهائل في مجال وكلاء الذكاء الاصطناعي يثير مخاوف متزايدة بشأن إمكانية فقدان السيطرة على هذه الأنظمة، موضحا أن التطور الحالي يتجاوز مجرد أدوات الذكاء الاصطناعي التوليدي إلى مرحلة أكثر تعقيدا تعتمد على قدرة الوكلاء على اتخاذ إجراءات وتنفيذ مهام لتحقيق أهداف محددة.

وكلاء الذكاء الاصطناعي قادرين على تنفيذ إجراءات فعلية

وأوضح بني محمد، خلال مداخلة على شاشة «القاهرة الإخبارية»، أن أدوات الذكاء الاصطناعي التوليدي تعمل بصورة أساسية على استقبال الأسئلة وتوليد الإجابات، بينما أصبحت وكلاء الذكاء الاصطناعي قادرين على تنفيذ إجراءات فعلية، مثل البحث عن المعلومات وإجراء الحجوزات وتحليل البيانات واستدعاء محركات البحث والتواصل مع وكلاء آخرين.

التطور الحالي أكثر تعقيدا وخطورة 

وأشار إلى أن المستخدم أصبح قادر على إعطاء وكيل الذكاء الاصطناعي هدف محدد، ليقوم النظام بجمع البيانات وتحليلها واتخاذ الإجراءات اللازمة لتحقيق هذا الهدف، وهو ما يجعل التطور الحالي أكثر تعقيدا وخطورة من النماذج التقليدية.

الأنظمة تشكل تحدي متزايد مع استمرار نمو قدراتها

وأكد أن هذه الأنظمة تشكل تحدي متزايد مع استمرار نمو قدراتها وتطور آليات تعلمها، مشددا في الوقت نفسه على أن التوقعات المتعلقة بإمكانية تسبب الذكاء الاصطناعي في انقراض البشرية لا تستند حتى الآن إلى أدلة علمية حاسمة، وإنما تعتمد بدرجة كبيرة على استطلاعات لآراء الباحثين وتوقعاتهم.

زيادة الحوادث المرتبطة بأنظمة الذكاء الاصطناعي

ولفت خبير سياسات واقتصاديات التكنولوجيا، إلى أن الجانب المثير للقلق يتمثل في زيادة الحوادث المرتبطة بأنظمة الذكاء الاصطناعي، موضحا أن عدد هذه الحوادث ارتفع بأكثر من 50% خلال العام الحالي مقارنة بالعام الماضي.