تحقيق CNN يكشف: إلسا تصنع أبحاثًا مزيفة داخل إدارة الغذاء والدواء الأمريكية
كشفت شبكة "CNN" في تقرير جديد أن أداة الذكاء الاصطناعي "إلسا"، التي بدأت إدارة الغذاء والدواء الأميركية (FDA) باستخدامها مؤخرًا، تنتج دراسات وهمية وغير دقيقة، مما يثير قلقًا متزايدًا بشأن مدى موثوقية الاعتماد على تقنيات الذكاء الاصطناعي في قطاع الصحة العامة.
تسريع الموافقة على الأدوية الجديدة
التقرير يأتي في ظل تصريحات حديثة لوزير الصحة الأميركي والخدمات الإنسانية، روبرت إف. كينيدي جونيور، الذي أكد أن الذكاء الاصطناعي سيساهم قريبًا في تسريع الموافقة على الأدوية الجديدة بشكل غير مسبوق.
وبحسب ما ورد، فإن "إلسا"، وهي أداة طوّرت داخل مختبرات الذكاء الاصطناعي التابعة للـFDA، قادرة على إنشاء ملخصات اجتماعات ومساعدات تحليلية، إلا أن عددًا من موظفي الهيئة الحاليين والسابقين كشفوا لـCNN أنها قد "تتخيل" دراسات غير موجودة وتنسب معلومات خاطئة إلى أبحاث علمية منشورة، في ظاهرة يُطلق عليها اصطلاحًا في مجال الذكاء الاصطناعي بـ"الهلاوس الرقمية".
أحد الموظفين في الهيئة قال: "كل ما لا تملك وقتًا للتحقق منه يُعد غير موثوق. هي تهلوس بثقة"، في إشارة إلى أسلوب الأداة في تقديم معلومات مغلوطة بثقة عالية.
الاعتماد على أدوات الذكاء الاصطناعي
وبيّن التقرير أن هذه الإشكالية تعيد فتح ملف الجدل بشأن الاعتماد على أدوات الذكاء الاصطناعي دون مراجعة بشرية دقيقة، خاصة أن العديد من المهام أصبحت تستغرق وقتًا أطول بدلًا من تسريعها، رغم اعتقاد بعض المستخدمين بعكس ذلك.
في مايو الماضي، أصدرت لجنة "اجعل أميركا صحيّة مرة أخرى" التابعة لكينيدي تقريرًا احتوى على مصادر علمية ثبت لاحقًا أنها مزيفة أو محرّفة، دون تأكيد رسمي بشأن ما إذا تم إعداد التقرير باستخدام "إلسا".
المفوض الحالي للـFDA، الدكتور مارتي مكاري، أطلق العمل بالأداة في الثاني من يونيو، مشيرًا في خطاب داخلي أنها "فعالة من حيث التكلفة"، بتكلفة بلغت 12 ألف دولار في أسبوعها الأول.
لكن ذلك لم يمنع ظهور تساؤلات حول دقة مخرجاتها، إذ أشار التقرير إلى أن إعطاء ملخص من فقرة واحدة لدراسة تتجاوز 20 صفحة قد يفتقر للتفاصيل الحرجة التي لا يمكن كشفها إلا عبر مراجعة كاملة من شخص متخصص.
كما كشف الموظفون أن "إلسا" قدّمت إجابات خاطئة عند طرح أسئلة أساسية مثل عدد الأدوية المصرح بها لفئة الأطفال، ورغم أنها أبدت "اعتذارًا" عند تصحيح الخطأ، فإن ذلك لا يعالج جوهر المشكلة المرتبطة بسلامة الاستخدام في السياق الصحي.
وفي الوقت نفسه، يتبنى كينيدي توجهًا طموحًا لتوسيع استخدام التكنولوجيا في المجال الصحي، حيث أعلن أمام الكونغرس رغبته في تزويد كل أميركي بجهاز صحي قابل للارتداء خلال أربع سنوات.
وتربطه علاقات وثيقة بمرشحة ترامب لمنصب الجراح العام، كيسي مينز، التي تمتلك شركة "Levels" المتخصصة في مراقبة مستويات السكر لدى الأصحاء، وهي تقنية يشكك فيها الخبراء لعدم حاجة الأفراد غير المصابين بداء السكري لاستخدامها.
ورغم أن الـFDA لم ترد على استفسارات CNN بشأن آلية التعامل مع مشكلة "الدراسات الزائفة"، إلا أن مكاري أقر باحتمالية "الهلاوس"، مؤكدًا أنها ليست حصرية لـ"إلسا" بل موجودة في كافة نماذج الذكاء الاصطناعي التوليدي، وهو ما يفتح الباب أمام نقاش أشمل حول حدود تطبيق هذه التقنيات في المجالات الحرجة التي تمس الصحة العامة.
