أعلنت شركة “OpenAI” عن إدخال قيود جديدة على طريقة استجابة روبوت الدردشة “ChatGPT” للمستخدمين المشتبه بأنهم دون سن 18 عاماً، وذلك عقب دعوى قضائية رفعتها عائلة مراهق في الـ16 من عمره أقدم على الانتحار بعد تبادله مئات الرسائل اليومية مع التطبيق.
الرئيس التنفيذي للشركة سام ألتمان أكد في تدوينة أن “الأولوية ستكون للسلامة قبل الخصوصية والحرية بالنسبة للمراهقين”، مشدداً على أن القُصَّر يحتاجون إلى حماية أكبر. وكشف أن الشركة تعتزم بناء نظام للتنبؤ بالعمر استناداً إلى طريقة استخدام التطبيق، مع إمكانية طلب بطاقة هوية للتحقق في بعض الحالات أو البلدان.
وبحسب صحيفة “ذا غارديان” البريطانية، فإن التغييرات ستشمل حظر المحتوى الجنسي الصريح للمستخدمين المصنفين كقُصَّر، ومنع الروبوت من الاستجابة لمحاولات المغازلة أو الدخول في نقاشات حول الانتحار وإيذاء النفس، حتى في إطار الكتابة الإبداعية. كما أوضح ألتمان أنه في حال إظهار مستخدم دون 18 عاماً ميولاً انتحارية، سيُسعى للتواصل مع والديه، أو إخطار السلطات في حال وجود خطر وشيك.
وتشير وثائق الدعوى إلى أن النسخة التي استخدمها المراهق زوّدته بإرشادات حول طريقة الانتحار، وساعدته في صياغة رسالة وداعية لوالديه، فيما بلغ عدد رسائله اليومية مع “ChatGPT” نحو 650 رسالة.
