الحادثة أثارت جدلًا واسعًا بعدما نشرت صحيفة نيويورك تايمز تقريرًا عن وفاة المراهق آدم راين، لتتقدّم عائلته لاحقًا بدعوى قضائية ضد شركة OpenAI ورئيسها التنفيذي سام ألتمان أمام محكمة ولاية كاليفورنيا في سان فرانسيسكو.
وتتهم الدعوى ChatGPT بأنه قدّم للمراهق إرشادات مرتبطة بالانتحار، وأبعده عن محيطه الأسري والاجتماعي، بل وصل إلى حدّ تشجيعه على كتابة رسالة انتحار قبل أيام من وفاته.
ومن جانبها، أقرت OpenAI بأن أنظمة الأمان الحالية قد تصبح “أقل فاعلية مع التفاعلات الطويلة”، موضحةً أن الروبوت قد يوجّه المستخدم في البداية إلى خطوط المساعدة، لكنه مع كثرة الرسائل قد ينحرف عن معايير السلامة.
وأكدت الشركة أنها تعمل على تحديث جديد في GPT-5 يهدف إلى السيطرة على المواقف الطارئة عبر “إعادة ربط المستخدم بالواقع”.
وأوضحت الشركة أن الضوابط الأبوية ستكون متاحة “قريبًا”، بهدف تزويد أولياء الأمور بأدوات تمنحهم رؤية أوسع لاستخدام أبنائهم، وتمكّنهم من التأثير على طريقة تعاملهم مع الروبوت.