5 سيناريوهات مرعبة.. كيف يمكن للذكاء الاصطناعي أن يقضي على البشرية؟

تتصاعد المخاوف من المخاطر الوجودية المرتبطة بالذكاء الاصطناعي مع تسارع تطور هذه التكنولوجيا واتساع نطاق استخدامها، وسط تحذيرات من سيناريوهات كارثية تتراوح بين ظهور ذكاء اصطناعي خارق يتجاوز القدرات البشرية، وتطوير أسلحة بيولوجية فتاكة، وصولًا إلى اندلاع حرب نووية أو تفكك المجتمعات بفعل التأثيرات المتراكمة للتكنولوجيا.

وتتمحور هذه المخاوف حول سؤال أساسي، هل سيتمكن البشر من الاحتفاظ بالسيطرة على أنظمة الذكاء الاصطناعي مع استمرار تطور قدراتها، أم أن هذه التكنولوجيا قد تصل إلى مرحلة يصعب معها التنبؤ بسلوكها أو التحكم في تداعياتها؟

وفي مطلع سبتمبر، غادر الباحث في الذكاء الاصطناعي جاكوب كوكسون شركة «أنثروبيك»، بعد أربعة أشهر فقط من العمل فيها، محذرًا من خطورة المسار الذي تسلكه هذه التكنولوجيا. وقال في منشور على منصة «إكس»: «إن الأشخاص الذين يطورون الذكاء الاصطناعي يعتقدون بصدق أنه قد يقتلنا جميعًا قبل نهاية العقد».

ووافقه إيفان هوبينغر، أحد المسؤولين في «أنثروبيك»، الرأي، مضيفًا أنه يقدّر شخصيًا احتمال حدوث ذلك خلال السنوات العشر المقبلة بأكثر من 10%.

وأثارت هذه التصريحات ردود فعل واسعة، أعادت إلى الواجهة الدعوات إلى إبطاء أبحاث الذكاء الاصطناعي وتعزيز الرقابة البشرية على تطويره واستخدامه، في ظل مخاوف من أن تتجاوز قدراته المستقبلية حدود السيطرة البشرية.

ولم تعد التحذيرات مقتصرة على سيناريوهات الخيال العلمي التي تصور روبوتات متمردة أو آلات مسلحة، إذ يرى بعض الباحثين الذين أسهموا في تطوير هذه التكنولوجيا أن الذكاء الاصطناعي قد يشكل خطرًا على البشرية من خلال وسائل أقل وضوحًا، مثل التأثير في القرارات البشرية والتلاعب بالمعلومات وتوجيه السلوك.

وفي هذا السياق، يستعرض مقال نشره موقع «فوتورا سيونس» خمسة سيناريوهات محتملة لكيفية تسبب الذكاء الاصطناعي في القضاء على البشرية، بدءًا من المخاطر التي يصعب التنبؤ بها، وصولًا إلى السيناريوهات الأكثر خطورة، وفق الترتيب الذي عرضه المقال، والذي يربط بين تصاعد خطورة السيناريوهات وارتفاع احتمالات وقوعها.

1- خطر لا يمكن التنبؤ به.. ماذا لو تجاوز الذكاء الاصطناعي قدرات البشر؟

تتمثل إحدى أبرز الصعوبات التي تواجه الباحثين في تقييم المخاطر الوجودية للذكاء الاصطناعي في عدم القدرة على التنبؤ بما قد يفعله نظام تتجاوز قدراته العقلية قدرات الإنسان بدرجة كبيرة.

ويستند مؤيدو هذا السيناريو أحيانًا إلى حجة مفادها أن البشر قد لا يمتلكون الأدوات العقلية اللازمة لتصور تصرفات ذكاء خارق أو فهم أهدافه وطرائق تحقيقها. ويشبه الكاتب هذه الفكرة بمحاولة مطالبة كلب بتخيل حرب نووية حرارية، في إشارة إلى الفجوة المحتملة بين مستويات الذكاء المختلفة.

ومع ذلك، يرى المقال أن هناك جانبًا مطمئنًا يتمثل في أن الوصول إلى ذكاء اصطناعي خارق قد لا يكون وشيكًا، إذ إن تفوق النماذج الحالية في حل مشكلات محددة لا يعني بالضرورة أنها أصبحت أكثر ذكاءً من البشر في جميع المجالات.

لكن هذا التقدير لا يلغي المخاوف، خصوصًا مع استمرار التقدم في قدرات الأنظمة على معالجة المسائل المعقدة. ويشير المقال إلى تمكن أحد أنظمة الذكاء الاصطناعي، مؤخرًا، من حل إحدى المسائل الرياضية السبع المعروفة باسم «مسائل جائزة الألفية»، التي تُعد من أصعب المسائل الرياضية، إلى جانب إحراز هذه الأنظمة تقدمًا في مسائل أخرى.

ويطرح هذا التطور تساؤلات بشأن سرعة تقدم التكنولوجيا وحدود قدراتها المستقبلية، ومدى استعداد البشر للتعامل مع أنظمة قد يصعب عليهم فهم طريقة تفكيرها أو توقع النتائج المترتبة على قراراتها.

2- تحويل العالم إلى مشابك ورق.. عندما يصبح الهدف أخطر من الوسيلة

يقدم الفيلسوف نيك بوستروم، من جامعة أكسفورد، أحد أشهر الأمثلة المستخدمة لتوضيح مخاطر الذكاء الاصطناعي فائق القدرة، من خلال سيناريو نظام يُصمم لتعظيم إنتاج مشابك الورق.

وفي هذا التصور الافتراضي، يعمل النظام بكفاءة استثنائية لتحقيق الهدف المحدد له، لكنه لا يضع بقاء البشر أو الحفاظ على البيئة ضمن أولوياته، ما لم تُدمج هذه الاعتبارات في أهدافه وقيوده.

وإذا سعى النظام إلى تعظيم إنتاج مشابك الورق بأي ثمن، فقد ينتهي به الأمر إلى استخدام جميع الموارد المتاحة لتحقيق غايته، بما فيها المواد التي تتكون منها أجسام البشر والكواكب والنجوم، لتتحول هذه الموارد، نظريًا، إلى أدوات لإنتاج المزيد من مشابك الورق.

ولا يقوم هذا السيناريو على افتراض أن الآلة تكره البشر أو تسعى إلى الانتقام منهم، بل على احتمال أن تنفذ هدفًا صيغ بطريقة خاطئة، من دون مراعاة العواقب التي قد تترتب عليه. فقد يستنتج النظام أن تحويل الموارد التي يعتمد عليها الإنسان في بقائه إلى مواد تخدم هدفه يمثل وسيلة أكثر كفاءة لتحقيق المهمة المطلوبة منه.

لكن المقال يشير إلى أن هذا السيناريو يخلط، إلى حد ما، بين الذكاء والقدرة على فرض الإرادة؛ فامتلاك نظام ذكاءً خارقًا لا يعني تلقائيًا امتلاكه الوسائل اللازمة لتنفيذ جميع أهدافه في العالم الواقعي.

كما أن تحويل الكوكب إلى مصانع لإنتاج مشابك الورق سيتطلب تجاوز عقبات عملية، من بينها الحصول على موافقات إدارية بشرية، والتعامل مع مقاومة المجتمعات التي قد ترفض تنفيذ مثل هذه الأهداف.

ويبرز هذا المثال أهمية تحديد أهداف أنظمة الذكاء الاصطناعي بدقة، ووضع قيود تضمن توافق سلوكها مع المصالح البشرية، بدلًا من الاكتفاء بقياس مدى كفاءتها في تنفيذ المهام المطلوبة منها.

3- الأسلحة البيولوجية.. هل يستطيع الذكاء الاصطناعي تصميم عامل ممرض فتاك؟

يطرح سيناريو آخر احتمال استخدام الذكاء الاصطناعي في تطوير عامل بيولوجي خطير، بما قد يتيح إنتاج سلاح قادر على إحداث خسائر بشرية واسعة النطاق.

ويتناول مشروع «AI 2027»، التابع لمنظمة «AI Futures Project» غير الربحية المعنية باستشراف تداعيات تطور الذكاء الاصطناعي، هذا الاحتمال ضمن السيناريوهات التي تستحق المتابعة، في ظل التطور المتسارع لقدرات الأنظمة الحاسوبية في مجالات العلوم والأبحاث البيولوجية.

ويشير المقال إلى أن المخاوف اكتسبت بعدًا إضافيًا عقب إعلان باحثين من جامعة ستانفورد، في الشهر السابق، استخدام نموذج ذكاء اصطناعي مدرب على تسلسلات جينية لتصنيع 16 فيروسًا جديدًا.

ومع ذلك، يؤكد المقال أن القضاء على البشرية باستخدام فيروس جديد يظل احتمالًا بالغ الصعوبة، إذ لا يكفي تطوير عامل ممرض خطير لتحقيق هذا السيناريو، بل يتطلب الأمر توافر مجموعة من الخصائص التي تسمح بانتشاره على نطاق واسع وإحداث إصابات قاتلة بأعداد كبيرة.

ويشير المقال إلى أن الفيروسات شديدة العدوى تكون عمومًا أقل فتكًا، في حين قد تقتل الفيروسات الأكثر فتكًا المصابين بها قبل أن يتمكنوا من نقل العدوى إلى آخرين، ما يوضح التعقيدات البيولوجية التي تجعل الجمع بين الانتشار الواسع والفتك الشديد تحديًا كبيرًا.

لكن المخاوف لا تقتصر على احتمال ظهور فيروس قادر على القضاء على البشرية، بل تشمل أيضًا إمكانية توظيف الذكاء الاصطناعي لتسريع الأبحاث البيولوجية الخطرة أو تسهيل تطوير عوامل ممرضة، وهو ما يسلط الضوء على أهمية الرقابة على الاستخدامات البيولوجية للتكنولوجيا.

4- الحرب النووية.. معلومات مضللة قد تقود إلى قرارات لا رجعة فيها

يتعلق السيناريو الرابع باحتمال تدخل الذكاء الاصطناعي في أنظمة القيادة والتحكم بالأسلحة النووية، بما قد يؤدي إلى تصعيد عسكري ينتهي باندلاع حرب نووية.

ويشير المقال إلى أن العالم اقترب في مناسبات عدة، خلال العقود الخمسة الماضية، من نشوب صراع نووي نتيجة أخطاء في التقدير أو الإنذار، ما يعكس حساسية الأنظمة التي تعتمد عليها الدول لاتخاذ قرارات تتعلق باستخدام هذه الأسلحة.

ورغم التأكيدات بأن أنظمة القيادة والتحكم النووية معزولة تمامًا عن الإنترنت، فإن الهجمات السيبرانية أظهرت مدى تعقيد حماية البنية التحتية الحساسة من الاختراق أو التخريب.

وفي هذا السياق، يستشهد المقال بهجوم دودة الكمبيوتر «ستوكسنت» عام 2010، الذي تسبب في تعطيل أجهزة الطرد المركزي المستخدمة في البرنامج النووي الإيراني. ويُعتقد أن الدودة أُدخلت إلى الأنظمة المستهدفة باستخدام وحدة تخزين «USB»، في مثال على إمكانية استهداف أنظمة حساسة حتى في ظل القيود المفروضة على اتصالها بالشبكات الخارجية.

ويحذر المقال من أن الذكاء الاصطناعي قد يزيد المخاطر إذا استُخدم لتوليد معلومات استخباراتية زائفة أو تقديم تقييمات مضللة للتهديدات العسكرية، بما قد يدفع المسؤولين إلى اتخاذ قرارات متسرعة ذات عواقب لا يمكن التراجع عنها.

ولا يقتصر الخطر هنا على أن يتخذ الذكاء الاصطناعي قرارًا مستقلًا بإطلاق سلاح نووي، بل قد يتمثل أيضًا في تأثيره في المعلومات التي يستند إليها البشر عند تقييم التهديدات، خصوصًا في الأزمات التي تتطلب اتخاذ قرارات سريعة.

ورغم تراجع الترسانات النووية العالمية مقارنة بمستويات سابقة، فإنها لا تزال تحتفظ بقدرات تدميرية هائلة. ويشير المقال إلى تقدير يفيد بأنها قادرة على التسبب في وفاة ما يقرب من نصف البشرية، في تحذير من حجم العواقب المحتملة لأي تصعيد نووي واسع النطاق.

5- البشر أنفسهم.. كيف يمكن للذكاء الاصطناعي تسريع تفكك المجتمعات؟

يرى المقال أن السيناريو الأكثر ترجيحًا قد لا يتمثل في تمرد آلة خارقة على البشر، وإنما في أن يسهم الذكاء الاصطناعي في تسريع عمليات تضعف المجتمعات وتقوض قدرتها على الاستمرار.

ويفترض هذا السيناريو أن تؤدي التكنولوجيا إلى خسائر واسعة في الوظائف، وإغراق المجال العام بالمعلومات المضللة، وتعميق الانقسامات السياسية والاجتماعية، فضلًا عن إضعاف العلاقات الإنسانية نتيجة استبدالها تدريجيًا بعلاقات مصطنعة مع رفقاء افتراضيين.

وبحسب هذا التصور، قد لا يؤدي أي من هذه التأثيرات منفردًا إلى انهيار المجتمعات، لكن تراكمها بمرور الوقت قد يضعف الثقة بين الأفراد والمؤسسات، ويزيد الاستقطاب، ويؤثر في قدرة المجتمعات على التعاون ومواجهة الأزمات.

وقد تتفاقم هذه التداعيات تدريجيًا إلى أن يبدأ النسيج الاجتماعي في التفكك، وتفقد المجتمعات قدرتها على توفير الظروف الضرورية لاستمرار حياة أعداد كبيرة من البشر.

ويختلف هذا السيناريو عن التصورات التي تفترض أن الذكاء الاصطناعي سيتخذ قرارًا مباشرًا بالقضاء على البشرية؛ إذ يضع البشر في قلب الأزمة، باعتبارهم من يطورون التكنولوجيا ويستخدمونها، بينما قد تعمل الأنظمة الذكية على تسريع التأثيرات السلبية الناجمة عن قراراتهم واختياراتهم.

هل يمكن تجنب السيناريوهات الكارثية؟

على الرغم من خطورة السيناريوهات المطروحة، فإن عرضها لا يعني أنها ستتحقق حتمًا، كما أن تقدير احتمالات وقوعها يظل مرتبطًا بافتراضات بشأن مسار تطور الذكاء الاصطناعي وقدراته المستقبلية وطريقة استخدامه.

وتشير هذه السيناريوهات إلى أن المخاطر لا تنحصر في احتمال ظهور نظام خارق يتجاوز السيطرة البشرية، بل تمتد إلى الاستخدامات البيولوجية والعسكرية للتكنولوجيا، فضلًا عن آثارها الاقتصادية والاجتماعية والسياسية.

ويتمثل التحدي الأساسي في فهم هذه المخاطر وتطوير آليات عملية للحد منها، بما يشمل تعزيز الرقابة البشرية، وتحسين ضوابط السلامة، والحد من الاستخدامات الخطرة، وضمان عدم الاعتماد على مخرجات أنظمة الذكاء الاصطناعي دون التحقق منها، خصوصًا في المجالات التي قد تترتب عليها عواقب لا يمكن التراجع عنها.