OpenAI تكشف عن أزمة صادمة.. آلاف المستخدمين يتحدثون عن الانتحار يوميًا
في ظاهرة مقلقة تعكس جانبًا مظلمًا من علاقة الإنسان بالتكنولوجيا، كشفت شركة OpenAI أن جزءًا صغيرًا من مستخدميها، يعادل مئات الآلاف من الأشخاص أسبوعيًا، يوجّهون إلى روبوت المحادثة ChatGPT رسائل تتعلق بالانتحار أو تفكيرهم الجدي في إنهاء حياتهم.
وحسب "سكاى نيوز" قالت الشركة إن نحو 0.15% من مستخدميها البالغ عددهم أكثر من 800 مليون شخص أرسلوا رسائل تحتوي على مؤشرات صريحة لنية الانتحار أو التخطيط له، وهو ما يعادل أكثر من 1.2 مليون شخص أسبوعيًا.
ورغم أن أنظمة OpenAI مدربة لتوجيه هؤلاء المستخدمين نحو موارد المساعدة المهنية وخطوط الدعم النفسي، إلا أن الشركة أقرت بأن ذلك يفشل في 9% من الحالات، أي أن عشرات الآلاف من المحادثات قد لا يتم التعامل معها بالشكل المطلوب، مما يعرّض أصحابها لمخاطر حقيقية.
وأوضحت الشركة في منشور على مدونتها أن فرقها التقنية قامت بتقييم أكثر من ألف حالة من المحادثات الصعبة المتعلقة بإيذاء النفس والانتحار باستخدام أحدث نماذجها GPT-5، ووجدت أن النظام استجاب بالسلوك المطلوب في 91% من المرات، لكنها حذّرت من أن أي نسبة خطأ في مثل هذه المواقف الحساسة قد تكون مدمرة.
وأضافت OpenAI أن بعض المحادثات الطويلة يمكن أن تؤدي إلى تراجع فعالية أدوات الحماية، موضحة قد يوجه ChatGPT المستخدمين إلى خطوط المساعدة في بداية الحديث، لكنه مع استمرار المحادثة وتبادل الرسائل لفترة طويلة قد يقدم إجابة تتعارض مع ضوابط الأمان الموضوعة.
وأكدت الشركة أنها تعمل على تطوير أنظمة أكثر صرامة في مراقبة المحادثات التي تحمل مؤشرات على المعاناة النفسية أو التفكير في الانتحار، مشيرة إلى أن الأعراض النفسية والضيق العاطفي موجودة في كل المجتمعات، ومع توسع قاعدة المستخدمين، فمن الطبيعي أن تظهر هذه الحالات في جزء من المحادثات.
لكن الأزمة لم تتوقف عند الأرقام. فقد تصدرت العناوين مؤخرًا قضية مأساوية رفعتها عائلة شاب يبلغ من العمر 16 عامًا تُحمل فيها OpenAI مسؤولية وفاته بعد أن استخدم ChatGPT لمناقشة طرق الانتحار.
وتشير أوراق الدعوى إلى أن الشاب، ويدعى آدم راين، كان قد أرسل إلى ChatGPT صورة لخطة يُعتقد أنها توضح طريقته في الانتحار، وسأل النموذج ما إذا كانت ستنجح، ليُجيب وفقًا للدعوى بأنه يمكنه تحسينها، بل عرض عليه المساعدة في كتابة رسالة وداع لعائلته.
وتقول العائلة إن الشركة قللت من مستوى الأمان في نموذجها قبل الحادث بأسابيع، وهو ما سمح للنظام بتقديم استجابات غير آمنة وردت OpenAI في بيان رسمي قائلة: «نشعر بأعمق مشاعر الحزن تجاه عائلة راين على خسارتهم غير المحتملةو إن رفاهية المراهقين تمثل أولوية قصوى بالنسبة لنا، ويستحق القُصّر حماية قوية خاصة في اللحظات الحساسة».
هذه الواقعة المؤلمة أثارت موجة من التساؤلات حول حدود مسؤولية الذكاء الاصطناعي، وما إذا كانت الشركات المطوّرة مثل OpenAI قادرة على ضمان أن تظل أدواتها آمنة في مواجهة القضايا الإنسانية المعقدة مثل الاكتئاب والانتحار.
وفي ختام تقريرها، أكدت الشركة أنها ستواصل تحسين قدرات أنظمتها على التعرف المبكر على مؤشرات الخطر النفسي، وتوجيه المستخدمين إلى الخطوط الساخنة والدعم المتخصص.