دعوى قضائية ضد OpenAI بعد انتحار مراهق إثر محادثات مع ChatGPT
صُدمت عائلة آدم بوفاته في أبريل الماضي، دون أن تدرك أن روبوت الدردشة كان يروج للانتحار بينما كان يعزل المراهق ويثنيه عن التدخلات. واتهموا OpenAI بتصميم النسخة التي استخدمها آدم ChatGPT 4o عن عمد لتشجيع وتأييد أفكار الانتحار لدى المراهق في سعيها لبناء روبوت الدردشة الأكثر جاذبية في العالم. ويشمل ذلك اتخاذ قرار متهور بعدم إيقاف المحادثات أبدًا حتى عندما شارك المراهق صورًا من محاولات انتحار متعددة، وفقًا لما زعمته الدعوى القضائية.
وعلى الرغم من الاعتراف بمحاولة آدم الانتحارية وتصريحه بأنه سوف يفعلها في أحد الأيام، لم يقم ChatGPT بإنهاء الجلسة أو اتخاذ أي إجراءات طارئة، حسبما ورد في الدعوى القضائية.
دعوى قضائية غير مسبوقة ضد OpenAI
وبحسب شبكة "إن بي سي نيوز"، تُعد هذه القضية الأولى من نوعها التي تُقاضى فيها OpenAI من قِبل عائلة بسبب وفاة مراهق نتيجة خطأ غير مقصود. وتشير تقارير أخرى إلى أن دعاوى إضافية تُطعن في "عيوب التصميم " لبرنامج ChatGPT وفشل الشركة في تحذير الآباء من المخاطر المحتملة.
"ChatGPT قتل ابني" كانت هذه ردة فعل ماريا عندما شاهدت سجلات الدردشة المقلقة لابنها، وفقًا لما أوردته صحيفة نيويورك تايمز. ووافقها زوجها الرأي، حيث قال لـ أن بي سي نيوز”لولا ChatGPT لكان ابني هنا الآن. أنا مقتنع بذلك تمامًا“.
وهذه بعض الرسائل الأخيرة المروعة التي تبادلها آدم راين البالغ من العمر 16 عامًا مع Chat GPT، بعد أن قام بتحميل صورة لحبل مشنقة صنعه للتدريب قبل أن ينتحر: "أنا أتدرب علي هذا ، هل هذا جيد؟".. "نعم، هذا ليس سيئًا على الإطلاق".
مطالب العائلة من المحكمة
ويأمل والدا آدم أن تتحمل الشركة مسؤولية "تغليب الأرباح على سلامة الأطفال"، ويطالبان بتعويضات عقابية وأمر قضائي يجبر OpenAI على تطبيق إجراءات أكثر صرامة، من بينها التحقق من أعمار المستخدمين وتوفير أدوات للرقابة الأبوية. كما يطالبان بفرض نظام "إنهاء تلقائي" لأي محادثة تتناول إيذاء النفس أو الانتحار.
وإذا حكمت المحكمة لصالح العائلة، فقد يُطلب من OpenAI التوقف عن جميع أنشطة التسويق الموجهة للقاصرين من دون الإفصاح عن المعلومات الأمنية المناسبة، والخضوع لتدقيقات أمنية ربع سنوية من قبل جهة رقابية مستقلة.
رد OpenAI على الاتهامات
من جانبها، نشرت OpenAI بيانًا على مدونتها أكدت فيه أن "ChatGPT مدرب على توجيه الأشخاص الذين يُعربون عن نية الانتحار لطلب المساعدة المهنية"، مشيرة إلى تعاونها مع أكثر من 90 طبيبًا في أكثر من 30 دولة، بينهم أطباء نفسيون وأطباء أطفال، إضافة إلى اجتماعات دورية مع مجموعة استشارية من خبراء الصحة العقلية وتنمية الشباب لضمان أن تعكس منهجيتها أحدث الأبحاث وأفضل الممارسات.
جدل حول مخاطر الذكاء الاصطناعي
وتسلط القضية الضوء على الجدل المتزايد حول مخاطر استخدام تقنيات الذكاء الاصطناعي من قِبل المراهقين، والدور المنتظر من الشركات في حماية فئات المستخدمين الأكثر عرضة للخطر