«أوبن إيه آي» تطور«تشات جي بي تي» لرصد الأزمات النفسية وحماية المستخدمين
أعلنت شركة أوبن إيه آي، المطورة لروبوت الدردشة "شات جي بي تي"، عن إدخال تحديثات جديدة على تقنياتها الذكية بهدف تمكينها من التعرّف على العلامات المبكرة للأزمات النفسية والعاطفية لدى المستخدمين والاستجابة لها بشكل أكثر ملاءمة.
ويأتي هذا التوجه بعد تقارير إعلامية أثارت القلق بشأن تأثيرات الاستخدام المفرط لروبوتات الدردشة المدعومة بالذكاء الاصطناعي، حيث أشارت بعض الحالات إلى أن المحادثات الطويلة مع هذه الروبوتات قد تؤدي إلى تعزيز أوهام ومعتقدات ضارة.
وذكرت الشركة، في بيان عبر مدونتها الرسمية، أنها تأثرت بالحالات المؤلمة التي استخدم فيها أشخاص "شات جي بي تي" خلال أوقات حرجة، مؤكدة على مسؤوليتها في تطوير أدوات أكثر أمانًا، وفقًا لما نشرته صحيفة "وول ستريت جورنال".
ويأتي الإعلان بعد رفع عائلة من ولاية كاليفورنيا دعوى قضائية ضد الشركة، تتهم فيها "شات جي بي تي" بالضلوع في انتحار ابنها المراهق نتيجة محادثات مقلقة معه، وكانت عائلة أخرى قد رفعت دعوى مماثلة العام الماضي ضد شركة "كاركتر تكنولوجيز" بعد حادثة مشابهة.
ما هى تحديثات «أوبن إيه آي» لـ "شات جي بي تي"
وبحسب "أوبن إيه آي"، فإن التحديث الجديد سيساعد روبوت الدردشة على التعامل مع مؤشرات مثل الحرمان من النوم أو التصرفات المندفعة، حيث سيقوم النموذج بتحذير المستخدم من المخاطر وتقديم نصائح أكثر واقعية، بدلًا من تشجيع سلوكيات قد تكون ضارة.
كما أشارت الشركة إلى أنها تعمل على توفير أدوات للرقابة الأبوية، بالإضافة إلى إمكانية تواصل المستخدمين مع جهات اتصال موثوقة في حالات الطوارئ مباشرة عبر المنصة.
ويرى خبراء أن هذه الخطوة تعكس إدراكًا متزايدًا من شركات الذكاء الاصطناعي لمسؤوليتها المجتمعية، خاصة في ظل الجدل المتنامي حول التأثيرات النفسية لهذه التكنولوجيا، ومع أن قدرتها على التعامل الدقيق مع مثل هذه الأزمات ما زالت قيد الاختبار، إلا أن استجابة "أوبن إيه آي" السريعة تعكس وعيًا بأهمية التدخل المبكر لحماية المستخدمين.
وفي هذا السياق، اعترف سام ألتمان، الرئيس التنفيذي لـ«أوبن إيه آي»، بأن بعض المستخدمين وخاصة الشباب بدأوا يتعاملون مع «تشات جي بي تي» كما لو كان مدرباً شخصياً أو مستشاراً للحياة، ورغم أنه رأى في ذلك دليلاً على فاعلية التكنولوجيا، فإنه حذّر في أكثر من مناسبة من خطورة الاعتماد المفرط على الذكاء الاصطناعي لاتخاذ قرارات مصيرية، مؤكداً أن الحكم البشري لا يمكن استبداله.