مستشار أمن سيبراني: وكلاء الذكاء الاصطناعي يعملون بصلاحيات محددة

قال الدكتور بلال أسعد مستشار الأمن السيبراني، إن وكلاء الذكاء الاصطناعي ليسوا نموذج مختلف، وإنما هم نماذج لغوية مثل النماذج التي يتعامل معها المستخدمون يوميا، ومنها «تشات جي بي تي» و«كلود» وغيرها من النماذج المعروفة.

وأوضح أسعد، في مداخلة خلال برنامج «صباح جديد»، المذاع عبر قناة القاهرة الإخبارية، أن الاختلاف يكمن في طريقة عمل الوكيل، إذ يعمل ضمن حلقة وبصلاحيات محددة، لكنه لا يعمل بإرادة ذاتية كاملة.

https://www.youtube.com/shorts/KRxUV2pJpSg

وأشار إلى أنه يمكن إنشاء وكيل أو إعطاء جزء معين من النموذج صلاحيات محددة لتنفيذ مهمة بعينها، موضحً

ا أنه يمكن، على سبيل المثال، تكليف الوكيل بالتقدم إلى وظائف عبر موقع «لينكدإن».

وبيّن أن الوكيل يستطيع، وفق الصلاحيات الممنوحة له، الدخول إلى متصفح «لينكدإن»، والبحث عن الوظائف المناسبة للسيرة الذاتية، ثم التقدم إليها، موضحا أن هذه المهام تتم بناء على الصلاحيات التي يمنحها المستخدم للوكيل.

وأضاف أن الصلاحيات قد تشمل عدم إنشاء حسابات، أو إنشاء سيرة ذاتية، أو التقدم بالوظائف وفق ما تطلبه كل وظيفة، مشددا على أن الوكيل ينفذ الصلاحيات والمهام التي جرى تحديدها له.

وأكد أسعد أن وكيل الذكاء الاصطناعي لا يمتلك إرادة ذاتية تجعله يتخذ قرارًا من تلقاء نفسه بتنفيذ مهمة لا تتناسب مع المستخدم أو إلحاق الضرر به، موضحا أنه لا توجد لديه إرادة ذاتية أو شعور ذاتي أو تفكير مستقل بحد ذاته.