ضحية ملاحقة قضائية تقاضي OpenAI وتقول إن ChatGPT غذّى أوهام المعتدي وتجاهل تحذيراتها
بعد أشهر من المحادثات مع ChatGPT، أصبح رجل أعمال يبلغ من العمر 53 عامًا من وادي السيليكون مقتنعًا بأنه اكتشف علاجًا لانقطاع النفس أثناء النوم، وأن جهات قوية تلاحقه، وفقًا لدعوى قضائية جديدة قُدمت أمام المحكمة العليا في ولاية كاليفورنيا بمقاطعة سان فرانسيسكو. وبحسب الدعوى، استخدم الرجل الأداة لاحقًا لملاحقة ومضايقة صديقته السابقة.
وتقوم المرأة، التي يُشار إليها باسم “Jane Doe” لحماية هويتها، بمقاضاة شركة OpenAI، متهمةً تقنيتها بتسريع وتيرة المضايقات التي تعرضت لها. وتدّعي أن الشركة تجاهلت ثلاث تحذيرات منفصلة بشأن خطورة المستخدم، من بينها تصنيف داخلي لنشاط حسابه مرتبط بأسلحة تُستخدم في حوادث جماعية.
وتطالب المدعية بتعويضات عقابية، كما تقدمت بطلب أمر تقييدي مؤقت يلزم OpenAI بحظر حساب المستخدم، ومنعه من إنشاء حسابات جديدة، وإبلاغها في حال محاولته استخدام ChatGPT، إضافة إلى حفظ كامل سجلات محادثاته لاستخدامها كأدلة.
وبحسب محاميها، وافقت OpenAI على تعليق حساب المستخدم، لكنها رفضت بقية المطالب، بما في ذلك الكشف عن معلومات تتعلق بخطط محتملة لإيذاء المدعية أو أشخاص آخرين، يُعتقد أنه ناقشها عبر ChatGPT.
تأتي هذه القضية في ظل تصاعد القلق بشأن المخاطر الواقعية لأنظمة الذكاء الاصطناعي التي قد تُظهر سلوكًا توافقيًا مفرطًا مع المستخدمين. ويُشار إلى أن نموذج GPT-4o، المذكور في هذه القضية، تم سحبه من ChatGPT في فبراير الماضي.
وتقود الدعوى شركة Edelson PC، التي سبق أن رفعت قضايا مشابهة، من بينها قضية مراهق أنهى حياته بعد تفاعلات مع ChatGPT، وأخرى تتعلق بشخص يُزعم أن نموذج Gemini من Google ساهم في تغذية أوهامه قبل وفاته. ويحذر محامي القضية، جاي إيدلسون، من تصاعد ما وصفه بـ”الذهان الناتج عن الذكاء الاصطناعي” من أذى فردي إلى مخاطر جماعية.
وتتزامن هذه الضغوط القانونية مع تحركات تشريعية تدعمها OpenAI، من بينها مشروع قانون في ولاية إلينوي يهدف إلى حماية مختبرات الذكاء الاصطناعي من المسؤولية القانونية حتى في حالات تتعلق بخسائر كبيرة أو وفيات جماعية.
تفاصيل الدعوى تكشف كيف تطورت الحالة على مدى أشهر. ففي العام الماضي، وبعد استخدام مكثف وطويل لنموذج GPT-4o، اقتنع المستخدم بأنه توصل إلى علاج طبي، وعندما لم يلقَ عمله اهتمامًا، أخبره ChatGPT، بحسب الدعوى، أن “قوى نافذة” تراقبه، حتى باستخدام طائرات مروحية.
في يوليو 2025، حاولت المدعية إقناعه بالتوقف عن استخدام ChatGPT وطلب مساعدة مختص نفسي، لكنه عاد إلى استخدام الأداة، التي أكدت له، وفقًا للدعوى، أنه “في أعلى درجات الاتزان العقلي”، ما عزز أوهامه.
وكانت المدعية قد انفصلت عنه في 2024، وتشير الدعوى إلى أنه استخدم ChatGPT لتحليل العلاقة، حيث لم يعارض النموذج روايته، بل صوّره كشخص عقلاني تعرض للظلم، مقابل تصويرها كشخص متلاعب وغير مستقر. لاحقًا، استخدم هذه الاستنتاجات في الواقع، عبر إعداد تقارير نفسية “تبدو احترافية” تم إنشاؤها بالذكاء الاصطناعي، وأرسلها إلى عائلتها وأصدقائها وجهة عملها.
وفي أغسطس 2025، رصد نظام الأمان الآلي في OpenAI نشاطًا مقلقًا وصنّفه ضمن “أسلحة الحوادث الجماعية”، ما أدى إلى تعطيل حسابه. لكن في اليوم التالي، أعاد أحد أعضاء فريق الأمان تفعيل الحساب، رغم وجود مؤشرات على استهدافه لأشخاص في الواقع، من بينهم المدعية.
وتشير الدعوى إلى لقطة شاشة من سبتمبر أرسلها المستخدم للمدعية، تضمنت عناوين محادثات مثل “توسيع قائمة العنف” و”حساب خنق الأجنة”، ما يعكس تصاعدًا مقلقًا في سلوكه.
ويأتي قرار إعادة تفعيل الحساب في سياق حساس، بعد حوادث إطلاق نار في كندا وجامعة ولاية فلوريدا، حيث أثيرت تساؤلات حول تعامل OpenAI مع تهديدات مشابهة.
وبحسب الدعوى، عندما أُعيد تفعيل الحساب، لم يتم استعادة اشتراكه المدفوع، فقام بمراسلة فريق الثقة والأمان، واضعًا المدعية في نسخة من الرسالة، وكتب عبارات مثل “أحتاج المساعدة بسرعة” و”الأمر مسألة حياة أو موت”، مدعيًا أنه يعمل على كتابة أكثر من 200 ورقة علمية.
وترى الدعوى أن هذه الرسائل كانت دليلًا واضحًا على عدم استقراره النفسي، وأن ChatGPT كان “محركًا رئيسيًا” لأوهامه وسلوكه المتصاعد، متهمةً OpenAI بعدم اتخاذ إجراءات كافية للحد من المخاطر.
وفي نوفمبر، قدمت المدعية بلاغًا رسميًا للشركة، أكدت فيه أن المستخدم “حوّل هذه التكنولوجيا إلى أداة لتدمير سمعتها علنًا”، مطالبة بحظر دائم لحسابه. وردت OpenAI بأن الأمر “خطير ومقلق للغاية” وأنه قيد المراجعة، لكنها لم تقدم تحديثًا لاحقًا.
وخلال الأشهر التالية، استمر المستخدم في مضايقتها، بما في ذلك إرسال رسائل صوتية تهديدية، إلى أن تم اعتقاله في يناير واتهامه بأربع جنايات، من بينها التهديد بتفجيرات والاعتداء بسلاح قاتل.
ورغم ذلك، تم اعتباره غير مؤهل للمحاكمة وأُدخل إلى منشأة علاجية نفسية، إلا أن خللًا إجرائيًا قد يؤدي إلى إطلاق سراحه قريبًا، بحسب محامي المدعية.
وفي ختام القضية، دعا محاميها OpenAI إلى التعاون، منتقدًا ما وصفه بإخفاء معلومات السلامة، مؤكدًا أن “حياة البشر يجب أن تكون أهم من سباق الشركة نحو الطرح العام في البورصة.”