تقرير استخباراتي مزيف بالذكاء الاصطناعي يضع أمريكا والصين على شفا الحرب

كاد تقرير استخباراتي خاطئ، أُعد بمساعدة الذكاء الاصطناعي، أن يدفع الجيش الأمريكي إلى تنفيذ عملية لاعتراض سفينة صينية في الشرق الأوسط خلال الحرب مع إيران هذا الربيع، بعدما خلص التقرير بصورة غير صحيحة إلى أن السفينة كانت تنقل مكونات مرتبطة ببرنامج للأسلحة النووية.

وبحسب أربعة مصادر مطلعة على الواقعة، أثار التقرير حالة تأهب فورية داخل الجيش الأمريكي، الذي شرع في إعداد خطط لاعتراض السفينة، فيما كان عناصر مسلحون يستعدون للصعود على متنها. 

وقال مصدران، أحدهما كان مطلعاً على المعلومات التي سبقت الواقعة، إن طائرات عسكرية أمريكية كانت تحلق بالفعل في الجو استعدادا للعملية.

لكن المسؤولين الأمريكيين لم يكتشفوا حقيقة الأمر إلا قبيل بدء العملية المخطط لها، عندما أعادوا التدقيق في التقرير الذي أعده محلل تابع لقيادة العمليات الخاصة الأمريكية. 

وتبين خلال المراجعة أن التقرير أُنتج بمساعدة أداة للذكاء الاصطناعي، وأن روبوت المحادثة الذي استخدمه المحلل توصل بصورة خاطئة إلى طبيعة المواد التي كانت السفينة تحملها.

ولم تتمكن شبكة CNN من تحديد ماهية الشحنة التي أخطأ النظام في تفسيرها.

خطأ كارثي للذكاء الاصطناعي كاد يفجر مواجهة عسكرية بين واشنطن وبكين 

ووصف أحد المصادر التقرير بأنه كان "خاطئا تماما"، لكنه أضاف أنه "كاد يشعل حرباً"، نظراً إلى أن أي عملية أمريكية ضد سفينة صينية كانت ستنطوي على خطر الانزلاق إلى مواجهة مسلحة بين الولايات المتحدة والصين.

وتكشف الواقعة، وفق المصادر، عن المخاطر التي قد تترتب على تسريع استخدام الذكاء الاصطناعي في العمليات العسكرية والاستخباراتية، خصوصاً عندما تدخل هذه الأدوات في مراحل تحليل المعلومات التي يمكن أن تقود إلى قرارات ميدانية خلال حرب.

وتسعى وزارة الدفاع الأمريكية وأجهزة الاستخبارات إلى دمج الذكاء الاصطناعي في جوانب واسعة من عملها، بدءا من تحليل الكميات الهائلة من البيانات الاستخباراتية الخام التي تجمعها الولايات المتحدة وتحديد أهداف الضربات، وصولاً إلى مهام أكثر روتينية، مثل إدارة الميزانيات والخدمات اللوجستية وسلاسل الإمداد.

لكن واقعة السفينة الصينية تبرز مخاطر استخدام هذه التكنولوجيا الحديثة، التي لا تزال قدراتها وحدودها غير مفهومة بالكامل، في عمليات الاستهداف خلال النزاعات المسلحة. وحذر محللون منذ فترة من أن اعتماد الدول على بيانات ضعيفة أو مغلوطة يمكن أن يقود إلى أخطاء كارثية، بما في ذلك اتخاذ قرار بإطلاق النار على سفينة صينية استناداً إلى معلومات غير دقيقة.

وفي هذه الحالة، طرح المحلل سؤالاً على روبوت محادثة بشأن معلومات استخباراتية تتعلق بقائمة شحنات السفينة. وكانت المعلومات الأصلية قد صدرت عن قيادة العمليات الخاصة الأمريكية في منطقة المحيط الهادئ، التي تتمركز في هاواي.

ولم يتضح ما إذا كان روبوت المحادثة المستخدم متاحاً تجارياً أم تابعاً للحكومة الأمريكية.

وقال مسؤول أمريكي سابق رفيع المستوى، مطلع على أنظمة الذكاء الاصطناعي التي يستخدمها محللو الجيش وأجهزة الاستخبارات، إن "الأدوات الداخلية في معظمها مجرد نسخ من البرامج التجارية أُدخلت عليها تحسينات شكلية".

وبحسب المصادر، دمج روبوت المحادثة معلومات استخباراتية متاحة من مصادر مفتوحة مع معلومات استخباراتية سرية جمعتها الحكومة الأمريكية عبر إشارات الاتصالات، ثم توصل إلى استنتاج خاطئ بشأن طبيعة المواد التي كانت السفينة تنقلها.

ولم يتوقف استخدام الأداة عند تحليل المعلومات، إذ استعان المحلل بالذكاء الاصطناعي مرة أخرى لصياغة النتائج في شكل تقرير استخباراتي قياسي، وهو النوع من التقارير الذي اعتاد المسؤولون العسكريون الاعتماد عليه، قبل أن يجري تعميم التقرير داخل الجهات المعنية.

ولم ترد قيادة العمليات الخاصة الأمريكية في منطقة المحيط الهادئ ووزارة الدفاع الأمريكية على طلب CNN التعليق على الواقعة.

ويأتي التوسع في استخدام الذكاء الاصطناعي داخل الجيش الأمريكي مدفوعاً، في جانب منه، بقدرته على تسريع عملية اتخاذ القرارات الميدانية، مثل تحديد الأهداف التي ينبغي ضربها أو تحديد أماكن نقل الأصول العسكرية.

ويقول مسؤولون أمريكيون إن الولايات المتحدة لا تستطيع تحمل التأخر في دمج هذه التكنولوجيا، خشية أن تضطر في المستقبل إلى خوض حرب ضد الصين أو خصم آخر يمتلك قدرات تكنولوجية تمكنه من التحرك بوتيرة أسرع من الولايات المتحدة.

وفي يناير/كانون الثاني، أصدر وزير الدفاع الأمريكي بيت هيغسيث استراتيجية لوزارته حملت اسم "استراتيجية تسريع الذكاء الاصطناعي"، في إطار مسعى لتسريع وتيرة تبني الجيش لهذه التكنولوجيا.

وقال هيغسيث في كلمة أعلن خلالها الاستراتيجية: "سنطلق العنان للتجريب، ونزيل العقبات البيروقراطية، ونركز استثماراتنا، ونُظهر نهج التنفيذ اللازم لضمان ريادتنا في مجال الذكاء الاصطناعي العسكري".

وتدفع الاستراتيجية نحو توسيع استخدام الذكاء الاصطناعي في مختلف أنحاء الجيش، إذ تأمر وزارة الدفاع بإتاحة هذه التكنولوجيا عبر عدة برامج بهدف "إتاحة تجارب الذكاء الاصطناعي وعمليات التحول الرقمي للجميع داخل الوزارة، وذلك بوضع نماذج الذكاء الاصطناعي الأمريكية الرائدة عالمياً مباشرة بين أيدي كوادرنا البالغ عددهم ثلاثة ملايين موظف مدني وعسكري، بمختلف مستويات التصنيف الأمني"، وفقاً للمذكرة التي أعلنت الاستراتيجية.

غير أن هذه الجهود لا تُدار وفق نظام مركزي موحد، بحسب مسؤولين أمريكيين مطلعين على سير العمليات، إذ تستخدم جهات حكومية مختلفة أدوات متباينة، كما تخضع لأوامر ومعايير سلامة مختلفة.

ولا توجد، وفق المصادر، مجموعة موحدة من المعايير التي تتبعها الولايات المتحدة للتحقق من صحة المعلومات التي تنتجها هذه الأدوات. ويعني تعدد أنظمة الذكاء الاصطناعي وتنوعها بين القطاعات المختلفة داخل المؤسستين العسكرية والاستخباراتية أن مستويات الموثوقية والفاعلية تختلف بصورة كبيرة من نظام إلى آخر.

وتأتي هذه المخاوف في وقت انخرط فيه صانعو السياسات في واشنطن، على مدى أسابيع، في نقاشات مكثفة بشأن الذكاء الاصطناعي، عقب سلسلة من التحذيرات التي أطلقها مهندسون ورؤساء تنفيذيون في قطاع التكنولوجيا في وادي السيليكون بشأن احتمال خروج الذكاء الاصطناعي عن السيطرة البشرية، وما قد يترتب على ذلك من عواقب قد تهدد الحضارة.

لكن واقعة السفينة الصينية تسلط الضوء على خطر مختلف وأكثر إلحاحاً، يتمثل في احتمال أن يتخذ البشر قرارات بالغة الخطورة استناداً إلى معلومات غير دقيقة أو مضللة تنتجها أنظمة الذكاء الاصطناعي أو غيرها من الأنظمة الآلية.

وقالت المصادر إن الجيش الأمريكي يتجه بسرعة نحو توسيع استخدام الذكاء الاصطناعي للمساعدة في عمليات تحديد الأهداف، وهي عملية تنطوي بطبيعتها على مخاطر وقوع أخطاء قد تكون قاتلة.

وقال مصدر آخر مطلع على السياسات الحالية للجيش إن استخدام الذكاء الاصطناعي في تحديد الأهداف "يشهد توسعاً متزايداً"، مضيفاً أنه "لا توجد توجيهات فعلية توضح كيف يمكن لوجود عنصر بشري في حلقة اتخاذ القرار أن يحول دون وقوع إصابات في صفوف المدنيين أو حوادث نيران صديقة".

وبحسب أحد المصادر، فإن نوع "الهلوسة"، أي توليد معلومات خاطئة، الذي ظهر في الأداة التي استخدمها المحلل في هذه الواقعة لم يكن حادثة معزولة داخل مجتمع الاستخبارات منذ بدء انتشار أدوات الذكاء الاصطناعي في المؤسسات الحكومية.

وبالنسبة إلى بعض مسؤولي الاستخبارات الأكبر سناً، بمن فيهم مسؤولون يؤيدون على نطاق واسع استخدام الذكاء الاصطناعي داخل الجيش، فإن التوسع في استخدام هذه التكنولوجيا فرض ضغوطاً إضافية على المحللين لإنتاج المعلومات الاستخباراتية وتعميمها بوتيرة أسرع، وهو ما فتح المجال أمام وقوع أخطاء.

وأشارت عدة مصادر إلى أن المحللين الشباب، على وجه الخصوص، نشأوا وهم معتادون على استخدام أدوات الذكاء الاصطناعي، ما يجعلهم أكثر ميلا إلى الثقة بمخرجاتها من دون إخضاعها بالضرورة لتقييم نقدي كافٍ.

وقال أحد المصادر: "إن الذكاء الاصطناعي يتيح لك الوصول إلى فكرة سيئة بسرعة أكبر".