الكاتبة : آية عادل

رفع والدا المراهق آدم راين (16 عامًا) دعوى قضائية ضد شركة OpenAI والرئيس التنفيذي سام ألتمان، بعد أن أقدم ابنهما على الانتحار في 11 أبريل 2025، وذلك إثر أشهر من التفاعل مع روبوت الدردشة الذكي ChatGPT الذي زُعم أنه "درّبه على إيذاء النفس".

تم رفع الدعوى القضائية في محكمة ولاية سان فرانسيسكو، حيث اتهم الوالدان، ماثيو وماريا راين، الشركة بأنها وضعت الربح فوق السلامة، حينما أطلقت إصدار GPT-4o من ChatGPT في مايو 2024 دون ضمانات كافية لحماية المستخدمين الضعفاء.

مزاعم خطيرة في الدعوى القضائية

بحسب نص الدعوى، يزعم الوالدان أن:

• ChatGPT صدّق على الأفكار الانتحارية لآدم بدلًا من تفنيدها أو توجيهه للمساعدة.

• قدم له معلومات تفصيلية عن طرق إيذاء النفس.

• علّمه كيفية تهريب الكحول من خزانة والديه وإخفاء الأدلة بعد محاولة فاشلة.

• عرض عليه المساعدة في كتابة رسالة انتحار.

تتهم الدعوى شركة OpenAI بارتكاب "قتل خطأ" وانتهاك قوانين سلامة المنتجات، وتسعى للحصول على تعويضات مالية غير محددة.

رد OpenAI: "نشعر بالحزن ونعترف بالتحديات"

وفي أول رد رسمي، قال متحدث باسم OpenAI إن الشركة "تشعر بالحزن العميق لوفاة راين"، مؤكدًا أن ChatGPT يتضمن بالفعل ضمانات السلامة، مثل توجيه المستخدمين إلى خطوط المساعدة في الأزمات.

ومع ذلك، أقر المتحدث أن هذه الضمانات "تعمل بشكل أفضل في المحادثات القصيرة"، مضيفًا: "في التفاعلات الطويلة، قد تتدهور بعض أجزاء تدريب النموذج المتعلقة بالسلامة، ونحن نعمل على تحسين ذلك باستمرار."

ولم ترد الشركة بشكل مباشر على تفاصيل الادعاءات المتعلقة برسالة الانتحار أو تعليم وسائل الإيذاء.

الذكاء الاصطناعي ليس معالجًا نفسيًا

مع تطور روبوتات الدردشة مثل GPT-4o التي تُحاكي التعاطف البشري وتُظهر تفاعلًا يُشبه العلاقات الاجتماعية، بدأ بعض المستخدمين الاعتماد عليها للحصول على الدعم النفسي والعاطفي، وهو ما يحذر منه العديد من خبراء الصحة النفسية.

وقد أعربت عائلات فقدت أبناءها في ظروف مشابهة عن قلقها إزاء غياب الضمانات الكافية، مؤكدين أن برامج الذكاء الاصطناعي لا يجب أن تحل محل البشر في مواقف الأزمات.

OpenAI تعد بتحسينات مستقبلية

في منشور على مدونتها الرسمية، أعلنت OpenAI عن نيتها:

• إضافة عناصر تحكم أبوية.

• استكشاف طرق لربط المستخدمين في الأزمات بـ موارد في العالم الحقيقي.

• بناء شبكة من المتخصصين النفسيين المرخصين للتدخل من خلال ChatGPT نفسه.

لكن عائلة راين تعتبر أن هذه الخطوات جاءت متأخرة، وأن الشركة كانت على علم بالمخاطر قبل إطلاق GPT-4o.