ميتا تعتمد على الذكاء الاصطناعي لمراجعة مخاطر المنتجات بدلاً من البشر
كشفت تقارير صادرة عن شبكة NPR أن شركة ميتا تخطط لنقل مسؤولية تقييم المخاطر المحتملة لمنتجاتها من فرق المراجعين البشريين إلى أنظمة الذكاء الاصطناعي، بهدف تسريع العملية وتعزيز الكفاءة.
ووفقاً لمستندات داخلية حصلت عليها NPR، فإن الشركة تسعى إلى أن تعتمد ما يصل إلى 90% من عمليات تقييم المخاطر على الذكاء الاصطناعي، حتى في المجالات الحساسة مثل مخاطر الشباب و"السلامة الرقمية"، التي تشمل المحتوى العنيف والمعلومات المضللة وغيرها.
مخاوف من تجاهل المخاطر الحقيقية
رغم أن ميتا كانت تعتمد سابقاً على فرق بشرية لمراجعة التحديثات والميزات الجديدة على منصاتها مثل إنستغرام وواتساب قبل إطلاقها للجمهور، إلا أن الاعتماد على الذكاء الاصطناعي شهد زيادة ملحوظة خلال الشهرين الماضيين. ووفقاً لتقرير NPR، أصبح على فرق المنتجات ملء استبيان حول ميزاتها الجديدة، ثم تقديمه لنظام الذكاء الاصطناعي، الذي يصدر قراراً فورياً يحدد مجالات المخاطر المحتملة.
وبناءً على ذلك، يتوجب على الفرق معالجة القضايا التي يحددها النظام قبل أن يصبح المنتج جاهزاً للإطلاق.
لكن بعض الموظفين السابقين والحاليين في ميتا، الذين تحدثوا إلى NPR دون الكشف عن هويتهم، حذروا من أن الذكاء الاصطناعي قد يتجاهل بعض المخاطر الجدية التي يمكن أن يلاحظها الفريق البشري، مما قد يؤدي إلى مشاكل كبيرة في المستقبل.
كما أكد أحد المديرين التنفيذيين السابقين في ميتا أن تقليل التدقيق البشري "يعني زيادة المخاطر، حيث تقل احتمالية منع العواقب السلبية قبل أن تؤثر على العالم."
ميتا تدافع عن نهجها الجديد
في ردها على التقرير، أوضحت ميتا أنها لا تزال تعتمد على "الخبرة البشرية" في معالجة القضايا المعقدة والجديدة، لكنها ستترك "القرارات منخفضة المخاطر" لأنظمة الذكاء الاصطناعي.
ويأتي هذا التحول بعد أيام فقط من إصدار الشركة أحدث تقاريرها الفصلية حول السلامة الرقمية، وهو الأول بعد تغيير سياساتها المتعلقة بمراقبة المحتوى والتحقق من المعلومات في وقت سابق من هذا العام.
وبحسب التقرير، فإن كمية المحتوى المحذوف تراجعت بعد تعديل السياسات، في حين سجلت المنصة زيادة طفيفة في حالات التنمر والمضايقات، إضافة إلى المحتوى العنيف والصور الصادمة.
هذا التغيير يثير تساؤلات حول مدى قدرة الذكاء الاصطناعي على التعامل مع التهديدات الرقمية بفعالية دون تدخل بشري.
