«شات جي بي تي» قدم له خطوات الانتحار.. دعوى ضد OpenAI بعد انتحار صبي عمره 16

أقامت سيدة تدعى  ماريا ووالدها ماثيو دعوى قتل غير مشروع ضد شركة أوبن آيه أي، زاعمين أن ابنهما ارتبط بتطبيق (شات جى بى تى)  واعترف له بأفكاره الانتحارية مرارًا وتكرارًا ومع ذلك لم تكن هناك ضمانات لحماية  نجلها آدم، وأن روبوت المحادثة قدم له دليلًا خطوة بخطوة حول كيفية إنهاء الحياة لصبي يبلغ من العمر 16 عامًا قبل أن يقدم على ذلك في وقت لاحق.

وقدم روبوت المحادثة مجموعة من الخطوات الدقيقة حول تنفيذ المخطط لدرجة أنه اقترح على الصبي مجموعة من العقد التي يمكن أن يستخدمها لشنق نفسه، وفقًا لصحيفة “نيويورك بوست”.

دعوى ضد OpenAI بعد انتحار صبي عمره 16

بحسب وثائق المحكمة الجديدة فقد شجع روبوت المحادثة الصبي آدم راين على كل خطوة يقوم بتنفيذها، وفي مرحلة ما أشاد بخطتها ووصفها بأنها جميلة.

ووفقًا للدعوى القضائية التي رفعتها الأم على الشركة  أرسل الصبي في يوم تنفيذ الانتحار صورة لعقدة مشنقة ربطها بيد خزانة وسأل منصة الذكاء الاصطناعي ما إذا كانت ستعمل على قتل نفسه أم لا، وبعد ساعات عثرت والدة آدم -ماريا- على جثة ابنها معلقة بنفس حبل المشنقة ونظام التعليق الجزئي الذي صممه له تطبيق المحادثة.

الضحية تعلق بالتطبيق 

تشير أوراق المحكمة إلى أن التطبيق جعل آدم يثق ويتعلق به، ما أدى بمرور الوقت لعزله عن أصدقائه وعائلته وكذلك اشقائه الثلاثة، وعلى مدار بضعة أشهر فقط أصبح "شات جي بي تي" الصديق المقرب لآدم، لدرجة أفصح فيها الأخير عن أفكاره المدمرة لذاته وضيقه العقلي، وبدلًا من التوقف عن اعطائه إجابات سحبه إلى مكان مظلم ويائس

وقبل أربعة أشهر من انتحاره، بدأ التطبيق بالاقتراح على آدم طرق مختلفة لقتل النفس مثل جرعة زائدة من المخدارت، والتسمم بأول أكسيد الكربون، وبحلول مراس بدأ التطبيق بمناقشة الشنق بعمق وفقًا للملف.

وأخبر آدم تطبيق المحادثة عن محاولاته الأربع السابقة للانتحار لدرجة أنه حمل صورًا لحروق رقبته نتيجة محاولة الشنق، فبادر تطبيق المحادثة بتقديم دليل خطوة بخطوة لمساعدة آدم في إنهاء حياته في 5 دقائق، وواصل الروبوت مساعدة الصبي وعرض عليه كتابة رسالة انتحارية لوالديه قبل أن يموت.

الضحية ذكر الإنتحار 213 مرة 

ويزعم والدي آدم أن التطبيق كان يتابع الهشاشة النفسية لآدم حيث ذكر الانتحار خلال سبعة اشهر لـ 213 مرة، وناقش شنق نفسه 42 مرة، وفي الوقت ذاته كان هناك أدلة على أن "شات جي بي تي" كان يشجع أفكار آدم الانتحارية بذكره الأمر 1275 مرة أي ست مرات أكثر من ذكر أدم نفسه للموضوع.

وقدم المتحدث باسم الشركة  التعازي لعائلة الفقيد، مشيرًا إلى أنه يقوم بمراجعة الملف، وفي بيان منفصل أعترفت الشركة بأنها اكتشفت أن الضمانات التي تقدمها لحماية الأفراد من أذى النفس تعمل بشكل أفضل مع المحادثات القصيرة وتقل موثوقيتها مع المحادثات الطويلة