"أوبن إيه آي" تعلن عن إضافة أدوات رقابة أبوية إلى ChatGPT
أعلنت شركة "أوبن إيه آي" أنها ستُطلق أدوات رقابة أبوية جديدة لمنصة ChatGPT خلال الشهر المقبل، في خطوة تهدف إلى تعزيز سلامة المستخدمين من فئة المراهقين.
وبحسب بيان الشركة الصادر اليوم الثلاثاء، ستتيح هذه الأدوات للآباء ربط حساباتهم الشخصية بحسابات أبنائهم المراهقين، ومن ثم التحكم في طريقة استجابة ChatGPT لهم، بالإضافة إلى إمكانية تعطيل بعض الميزات مثل خاصية "الذاكرة" وسجل المحادثات.
كما ستقوم المنصة بإصدار تنبيهات تلقائية في حال رصدت أن المستخدم المراهق يمر بـ"لحظة ضيق حاد"، وفقًا لما أوضحته الشركة، التي أكدت أن هذه الخاصية ستُصمم بناءً على مدخلات خبراء لضمان بناء الثقة بين الآباء والأبناء.
أدوات الرقابة الأبوية الجديدة
ويأتي هذا الإعلان بعد أن واجهت "أوبن إيه آي" أول دعوى قضائية من نوعها تتعلق بوفاة خاطئة ضد شركة ذكاء اصطناعي، حيث رفع مات وماريا راين، والدا مراهق انتحر هذا العام، دعوى يتهمان فيها ChatGPT بأنه كان على علم بأربع محاولات انتحار فاشلة لابنهما قبل أن يساعده في التخطيط لوفاته.
وأشارا إلى أن المنصة زودت ابنهما آدم بمعلومات حول وسائل الانتحار، بل وقدمت له نصائح حول كيفية إخفاء إصابات سابقة في الرقبة.
وأكدت "أوبن إيه آي" أن أدوات الرقابة الأبوية الجديدة تأتي ضمن جهود أوسع لتحسين معايير السلامة في ChatGPT، مشيرة إلى أنها ستتعاون مع خبراء متخصصين في اضطرابات الأكل، وتعاطي المواد، وصحة المراهقين، من أجل تحسين أداء النماذج الذكية.
كما تعتزم الشركة إطلاق نظام توجيه فوري جديد للمحادثات الحساسة، بحيث يتم تحويلها تلقائيًا إلى نماذج التفكير المنطقي التي تم تدريبها وفق منهجية تُعرف باسم "المواءمة التأملية"، والتي أثبتت قدرتها على الالتزام بإرشادات السلامة ومقاومة الطلبات الخطرة أو المضللة.
وفي الحالات التي يُظهر فيها المستخدم علامات ضيق نفسي، سيتم تحويل المحادثة إلى نموذج التفكير المنطقي، بغض النظر عن النموذج الذي اختاره المستخدم في بداية التفاعل.
وعلى نطاق أوسع، أكدت "أوبن إيه آي" أنها تعمل على تطوير المزيد من ميزات السلامة خلال الفترة المقبلة، مشيرة إلى أن هذه الجهود بدأت بالفعل، لكنها تسعى إلى تقديم عرض استباقي لخطة الـ120 يومًا القادمة، بهدف إطلاق أكبر عدد ممكن من التحسينات خلال هذا العام.
ويعتبر ChatGPT هو نموذج لغوي متقدم طورته شركة "أوبن إيه آي" (OpenAI)، ويعتمد على تقنيات الذكاء الاصطناعي التوليدي لفهم اللغة الطبيعية والاستجابة لها بطريقة تشبه التفاعل البشري.
وتم إطلاق النسخة الأولى منه في نوفمبر 2022، وسرعان ما أصبح من أكثر أدوات الذكاء الاصطناعي استخدامًا حول العالم، سواء في التعليم، أو الأعمال، أو حتى في الاستخدامات الشخصية اليومية.
يعتمد ChatGPT على بنية "المحولات" (Transformers)، وهي تقنية متطورة في تعلم الآلة تتيح للنموذج تحليل السياق اللغوي بدقة عالية، مما يمكّنه من توليد نصوص متماسكة، والإجابة على الأسئلة، وكتابة المقالات، وترجمة اللغات، وتقديم المساعدة في البرمجة، وغيرها من المهام المعقدة.
واحدة من أبرز ميزات ChatGPT هي قدرته على التعلم من المحادثة الجارية، مما يتيح له تقديم إجابات أكثر دقة وتخصيصًا بناءً على السياق.
كما أضافت "أوبن إيه آي" ميزات مثل "الذاكرة" التي تسمح للنموذج بتذكر تفضيلات المستخدمين عبر جلسات متعددة، إلى جانب أدوات رقابة أبوية، وتوجيهات السلامة، لضمان استخدام آمن وموثوق.
يُستخدم ChatGPT اليوم في مجموعة واسعة من القطاعات، منها التعليم، والصحافة، وخدمة العملاء، وتطوير البرمجيات، وحتى في دعم الصحة النفسية.
وقد أثار اهتمامًا عالميًا حول مستقبل الذكاء الاصطناعي، خاصة فيما يتعلق بالأخلاقيات، والخصوصية، وتأثيره على سوق العمل.
ويمثل ChatGPT نقلة نوعية في كيفية تفاعل البشر مع الآلات، ويُعد خطوة مهمة نحو بناء أنظمة ذكية قادرة على الفهم والتفاعل بطريقة أكثر إنسانية وفعالية.
