اعتراف صادم لرئيس " Anthropic": الذكاء الاصطناعي لا يمكن تفسير قراراته بدقة
في تصريح صادم يعكس عمق الغموض المحيط بتكنولوجيا الذكاء الاصطناعي، أعلن داريو أمودي، الرئيس التنفيذي لشركة Anthropic، أن المطورين أنفسهم لا يملكون فهمًا دقيقًا لكيفية عمل أنظمة الذكاء الاصطناعي المتقدمة، رغم تصاعد استخدامها وانتشارها عالميًا، وفقا لما جاء في " futurism".
تطوير الذكاء الاصطناعي للدخول مجالات معقدة
وكشف داريو أمودي، عن خطة طموحة تسعى الشركة لتنفيذها خلال العقد القادم، تتمثل في تطوير ما وصفه بـ"تصوير بالرنين المغناطيسي للذكاء الاصطناعي"، وتهدف هذه المبادرة إلى فك شيفرة الآليات الداخلية للذكاء الاصطناعي، وتحديد ما يحفز قراراته، بما في ذلك اختيار الكلمات أو ارتكاب الأخطاء، وذلك للحد من المخاطر غير المتوقعة المرتبطة بهذه التكنولوجيا الغامضة.
وقال أمودي: "عندما يقوم نموذج توليدي بمهام مثل تلخيص مستند مالي، لا نعرف تحديدًا لماذا يتخذ قرارات معينة، أو لماذا يختار عبارات دون غيرها، أو حتى لماذا يخطئ رغم دقته في أوقات أخرى".
فجوة في فهم الذكاء الاصطناعي
وأكد أمودي أن هذه الفجوة في الفهم يجب أن تكون مصدر قلق، قائلًا إن أي شخص يشعر بالانزعاج من هذا الوضع "له كل الحق في ذلك"، مشيرًا إلى أن جميع تقنيات الذكاء الاصطناعي المعتمدة على تعلم الآلة تولد نتائجها من خلال أنماط إحصائية مستقاة من كميات ضخمة من البيانات، وليس من منطق استنتاجي يمكن تتبعه وفهمه بسهولة.
واعتبر أمودي أن هذا النقص في الفهم هو حالة "غير مسبوقة في تاريخ التكنولوجيا"، وهو ما يدفع شركة Anthropic لتكريس جهودها نحو بناء ذكاء اصطناعي أكثر أمانًا وشفافية.
مغادرة أمودي وشقيقته لشركة OpenAI
ويُذكر أن داريو أمودي وشقيقته دانييلا غادرا شركة OpenAI في عام 2020 برفقة خمسة موظفين آخرين، بسبب مخاوف تتعلق بإهمال معايير السلامة مقابل تحقيق الأرباح، وفي عام 2021، أسسوا معًا شركة Anthropic لتطوير ذكاء اصطناعي يكون أكثر قابلية للتفسير وأقل خطرًا على البشرية.
وأشار أمودي إلى أن الشركة أجرت مؤخرًا تجارب بحثية تتعلق بـ"قابلية تفسير" النماذج الذكية، إذ تم إدخال مشكلات توافق معروفة إلى أحد الأنظمة، وطلب من فرق بحثية تحليل سلوك النموذج وكشف الخلل، وتمكنت بعض الفرق من استخدام أدوات تفسير داخلية لفهم القرارات التي يتخذها النموذج، وهو ما يمثل خطوة أولية واعدة نحو بناء ذكاء اصطناعي يمكن تتبعه وفهمه.
واختتم أمودي مقاله بتصريح لافت: "الذكاء الاصطناعي القوي سيعيد تشكيل حياتنا واقتصاداتنا ومستقبلنا. لذلك، من حق البشرية أن تفهم هذه الإبداعات قبل أن تصبح جزءًا لا يتجزأ من واقعها".
