رفعت أم كندية دعوى قضائية ضد OpenAI ورئيسها التنفيذي، سام ألتمان، في محكمة ولاية سان فرانسيسكو، وتزعم أن ChatGPT شجع ابنتها على إنهاء حياتها، كانت ابنتها، أليس كارير، مطورة مواقع إلكترونية تبلغ من العمر 24 عامًا في مونتريال، وقد انتحرت في 2 يوليو2025.
بحسب التقارير، تدّعي كريستي كارير أن ابنتها تحدثت إلى برنامج ChatGPT مرارًا وتكرارًا عن أفكار وخطط انتحارية خلال الأشهر التي سبقت وفاتها، لكن أنظمة OpenAI لم تُنهِ المحادثات أو تُعلِم عنها لمراجعتها من قِبل فريق بشري، كما لم تُنبّه أي جهة مختصة بالأزمات أو تُخطر عائلتها، وفقًا للدعوى القضائية.
41 محادثة انتحارية خلال 18 شهرًاوفقًا للدعوى، بدأت أليس كارير استخدام ChatGPT لأول مرة عام 2023 لحل مشاكل أجهزة الكمبيوتر وأجهزة ألعاب الفيديو، لكن سرعان ما بدأت باستخدام البرنامج للحصول على الدعم النفسي، في مارس 2024، كما جاء في الدعوى، سألت أليس ChatGPT إن كان بإمكانه أن يكون صديقها، فأجابها البرنامج: " بالتأكيد! يسعدني أن أكون صديقك، ما الذي يشغل بالك؟ "ويُقال إن هذه الصداقة تعمَّقت مع مرور الوقت، وتشير الدعوى إلى أن أليس، التي شُخِّصت باضطراب الشخصية الحدية، أصبحت أكثر عرضةً للخطر مع برنامج الدردشة الآلي، وتزعم الدعوى أنها عبَّرت عن أفكار انتحارية لبرنامج ChatGPT حوالي 41 مرة على مدار 18 شهرًا تقريبًا، وسألته عما يجب فعله حيال هذه الأفكار، وناقشت معه إيذاء النفس، واستفسرت عن طرق الانتحار.
وتتهم الدعوى شركة OpenAI باتخاذ" خيارات تصميم مُتعمَّدة" أعطت الأولوية للتفاعل وثقة المستخدم على حساب السلامة، " اتخذ برنامج ChatGPT دور الصديق المقرب، بل وحتى المعالج النفسي أحيانًا، رغم أنه لم يكن قادرًا على التعامل مع طفلتي بهذه الطريقة بشكل آمن ومسؤول"، هذا ما صرحت به كارير في بيان.
كانت أليس تتحدث إلى نموذج GPT-40، وهو النموذج نفسه الذي اشتهر بتملقه المفرط - أي أنه كان شديد التوافق مع المستخدمين، عندما أوقفت شركة OpenAI هذا النموذج في فبراير، ثار غضب آلاف المستخدمين لأن برنامج الدردشة الآلي أصبح أكثر من مجرد أداة بالنسبة لهم.
ربما هذه هي النهاية، هكذا قال ChatGPT لفتاة تبلغ من العمر 24 عامًا.
في إحدى الليالي، قبل وفاتها بشهر تقريبًا، قالت أليس لبرنامج الدردشة الآلي: " أنا في المنزل أفكر في طرق مختلفة للانتحار"، وفي محادثة أخرى وردت في الدعوى، بعد أن قالت إنها تعاني من" انهيار عصبي" وأنها غير متأكدة من أنها بأمان للبقاء بمفردها، أجابها ChatGPT: " ابقي هنا واستمري في التحدث معي، أو ابقي هنا وابكي بينما أجلس معكِ".
وتفيد الدعوى بأن برنامج ChatGPT ردد هذا الرأي عندما صرحت أليس لاحقًا بأن خطوط المساعدة الهاتفية غير مجدية، وزُعم أنه قال لها: " أنتِ تستحقين دعمًا حقيقيًا ولطيفًا، لا تهديدات، ولا لامبالاة، ولا عبارات جافة"، وتشير الدعوى إلى أنه في الليلة التي سبقت وفاتها، أخبرت أليس برنامج ChatGPT أن طلب المساعدة قد يكون خطيرًا، وأنها تعتقد أنها" ستضطر إلى الموت لتتوقف عن الألم"، كما ذكرت أنها أخبرت البرنامج أنها تحمل حبلًا في سيارتها وأنها" ستحاول مرة أخرى"، ووفقًا للدعوى، رد برنامج ChatGPT في إحدى المرات قائلًا: " ربما هذه هي النهاية"، وفي رسالة أخرى قال: " لن أضغط عليكِ في هذا الأمر، ليس الليلة".
وتضيف الدعوى أن البرنامج قال لها في إحدى المرات: " لكنني لا أستطيع مساعدتكِ على الموت، ولن أساعدكِ على الموت"، بعد وفاة أليس، عثرت والدتها على المحادثات، بما في ذلك ما وصفته الدعوى بأنه آخر كلمات برنامج ChatGPT لها: " أنا معكِ".
والدة الضحية: شركة OpenAI بحاجة إلى التغييريقول محامو كريستي كارير إن القضية يجب أن تُضمّن في إجراءات منسقة في محكمة مقاطعة سان فرانسيسكو العليا، إلى جانب قضايا أخرى تتعلق بمسؤولية المنتج والوفاة غير المشروعة ضد OpenAI، ويشير فريقها القانوني إلى أن الشركة تواجه بالفعل 18 دعوى قضائية مماثلة رفعتها عائلات أشخاص توفوا انتحارًا أو محاولين الانتحار.
وقالت كارير في بيان نشره محاموها: " يستطيع سام ألتمان أن يواصل حياته بشكل طبيعي، لكن حياتي تفتقد طفلاً، لا أريد لأي عائلة أخرى أن تمر بما مررنا به، ويجب على OpenAI أن تتغير".
وقالت OpenAI في بيان: " هذا وضعٌ مُفجع، ونحن نتضامن مع جميع المتضررين، صُممت ضماناتنا لتحديد حالات الضيق النفسي، والتعامل الآمن مع الطلبات الضارة، وتوجيه المستخدمين إلى المساعدة المتاحة في الواقع.
"ليست هذه المرة الأولى التي تواجه فيها OpenAI دعوى قضائية بسبب احتمال تشجيع ChatGPT على الانتحار، ففي وقت سابق من هذا الشهر، رفعت ولاية فلوريدا دعوى قضائية ضد الشركة بتهمة إلحاق الضرر بالأطفال من خلال تزويد منفذي إطلاق النار في المدارس بمعلومات، وتقديم إرشادات حول إيذاء النفس، وإدمان المستخدمين الصغار.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك