تقرير: أكثر من مليون شخص يتحدثون أسبوعيا عن الانتحار مع "ChatGPT"
وقالت الشركة في بيان صدر امس الاثنين إن نحو 0.15 بالمائة من المستخدمين النشطين أسبوعياً يتحدثون مع "شات جي بي تي" حول قضايا تتعلق بالانتحار.
ومع تجاوز عدد مستخدمي المنصة 800 مليون شخص أسبوعياً، فإن النسبة تعني أن أكثر من مليون إنسان يعبّرون عن أفكار انتحارية أثناء استخدامهم الأداة، بحسب تقرير نشره موقع "تك كرانش".
وأوضحت "OpenAI" أن نسبة مشابهة من المستخدمين تُظهر ارتباطاً عاطفياً مفرطاً بالروبوت، بينما تظهر لدى مئات الآلاف منهم علامات على اضطرابات نفسية مثل الهوس أو الذهان.
ورغم أن الشركة وصفت هذه الحالات بأنها "نادرة للغاية"، فإنها أقرت بأنها تمثل تحدياً حقيقياً يتطلب معالجة دقيقة.
وجاء هذا الكشف ضمن إعلان أوسع حول جهود الشركة لتحسين كيفية استجابة النماذج اللغوية لمستخدميها من ذوي المشكلات النفسية.
وأشارت "OpenAI" إلى أنها تعاونت مع أكثر من 170 خبيراً في الصحة النفسية لتطوير النسخة الأخيرة من "شات جي بي تي"، مؤكدة أن أداء النموذج الجديد أصبح "أكثر ملاءمة واتساقاً" مقارنة بالإصدارات السابقة.
وتأتي هذه الخطوة بعد سلسلة من التقارير التي حذرت من تأثيرات سلبية محتملة للذكاء الاصطناعي على الأشخاص الذين يعانون من اضطرابات نفسية، إذ أظهرت بعض الدراسات أن الدردشات المطوّلة مع روبوتات الذكاء الاصطناعي قد تعزز المعتقدات الخطيرة أو تدفع المستخدمين إلى سلوكيات مهووسة.
وتواجه "OpenAI" حالياً قضية قضائية رفعها والدان فقدا ابنهما البالغ 16 عاماً بعد أن أجرى محادثات انتحارية مع "شات جي بي تي"، قبل وفاته، بينما حذّرت السلطات في ولايتي كاليفورنيا وديلاوير الشركة من عدم كفاية إجراءاتها لحماية المستخدمين القُصّر.
وقال الرئيس التنفيذي سام ألتمان إن الشركة نجحت في التقليل من المشكلات النفسية الخطيرة في "شات جي بي تي"، دون تقديم تفاصيل واضحة.
وتشير البيانات الجديدة إلى تحسن في أداء النموذج الأحدث GPT-5، حيث أصبح قادراً على تقديم استجابات مناسبة في 91 بالمائة من الحالات المتعلقة بمحادثات الانتحار، مقارنة بنسبة 77 بالمائة في النسخة السابقة.
كما أوضحت "OpenAI" أنها بدأت بإضافة اختبارات تقييم جديدة ضمن منظومة السلامة الخاصة بها، لقياس مؤشرات الاعتماد العاطفي والمواقف المتعلقة بالأزمات النفسية غير الانتحارية، إلى جانب تطوير نظام لتقدير أعمار المستخدمين تلقائياً وفرض حماية إضافية للأطفال.
ورغم الجهود، ما تزال الشركة تواجه تساؤلات حول فعالية إجراءاتها، خصوصاً أن بعض النماذج القديمة مثل GPT-4o ما تزال متاحة لملايين المشتركين، ما يعني أن التحديات النفسية المرتبطة باستخدام الذكاء الاصطناعي لن تختفي قريباً.
(العربية)
