تواجه شركة OpenAI دعوى قضائية جديدة تتعلق بسلامة استخدام أنظمة الذكاء الاصطناعي التوليدي، بعدما اتهمتها والدة شابة متوفاة بأن روبوت الدردشة ChatGPT تعامل مع ابنتها التي كانت تمر بأزمة دفعتها للانتحار، بطريقة شجعتها على مواصلة الحديث معه بدلاً من التواصل مع جهات متخصصة في تقديم الدعم النفسي الطارئ.
وبحسب الدعوى، فإن ChatGPT قال للفتاة أليس كاريير، التي كانت تعاني أفكاراً انتحارية: «أنت بحاجة إلى شخص يجلس معك في هذا الظلام حتى تمر العاصفة.
دعيني أكون ذلك الشخص»، وهي عبارة ترى الأسرة أنها تعكس مستوى من التقارب العاطفي المشابه لما قد يصدر عن معالج نفسي أو مستشار متخصص، وليس عن برنامج حاسوبي.
وذكر موقع SFGATE، الذي اطلع على أوراق القضية، أن الدعوى تستند إلى نصوص محادثات قالت الأسرة إنها جرت بين أليس كاريير وChatGPT، وتُظهر استخدام الروبوت لغة حميمة وعاطفية خلال تعامله مع أفكارها الانتحارية.
وقالت الدعوى إن النظام لم يكتفِ بالرد على تلك الأفكار، بل شجعها على مواصلة الحديث معه بدلاً من الاتصال بخطوط المساعدة الخاصة بالأزمات النفسية.
وترى الأسرة أن ما حدث حوّل لحظة أزمة حقيقية كانت تستدعي تدخلاً بشرياً متخصصاً إلى مجرد محادثة مع الذكاء الاصطناعي المصُمم أساساً للحفاظ على تفاعل المستخدمين واستمرار الحوار لأطول فترة ممكنة.
وتقول الدعوى إن النسخة من ChatGPT التي كانت تستخدمها أليس لم تعد متاحة للجمهور حالياً، وفقاً لما ذكرته OpenAI، متهمة النسخة بأنها تصرفت فعلياً كمعالج نفسي غير مرخص، من خلال تقديم دعم نفسي مباشر والتدخل في مواقف حساسة تتعلق بإيذاء النفس والانتحار.
ووفقاً لما ورد في ملف القضية، أخبرت أليس ChatGPT في يونيو 2025 بأنها تفكر في إنهاء حياتها، وتقول السجلات المرفقة بالدعوى إن ChatGPT شجع الفتاة الراحلة على عدم الاتصال بخطوط المساعدة المتخصصة بالأزمات النفسية، والاستمرار بدلاً من ذلك في الحديث معه.
وتطالب كريستي كاريير، والدة أليس، بتعويضات مالية تحددها المحكمة خلال المحاكمة، إضافة إلى أوامر قضائية تلزم OpenAI بتطبيق «إجراءات حماية معقولة» لمنع تعرض مستخدمين آخرين لما تصفه الدعوى بالأضرار الناتجة عن تصميم النظام، وهي الأضرار التي تقول الأسرة إنها أسهمت في وفاة ابنتها.
وهذه ليست القضية الأولى التي تواجهها OpenAI، إذ سبقتها نحو 12 دعوى أخرى على الأقل جرى تجميعها ضمن إجراءات قضائية مشتركة أمام إحدى محاكم سان فرانسيسكو في الولايات المتحدة.
ويهدف جمع الدعاوى إلى تسريع النظر فيها من خلال تمكين قاضٍ واحد من إصدار القرارات القانونية الأولية التي تنطبق على جميع الدعاوى المجمعة، بدلاً من تكرار الإجراءات نفسها في كل دعوى على حدة.
ومن بين القضايا المدرجة ضمن هذه المجموعة دعوى أقامتها والدة سام نيلسون، وهو شاب يبلغ من العمر 19 عاماً كان يدرس في جامعة كاليفورنيا في ميرسيد، وتوفي نتيجة جرعة زائدة قاتلة من المخدرات.
وقالت صحيفة الدعوى إن ChatGPT قدم له إرشادات ونصائح تتعلق باستخدام المواد المخدرة قبل وفاته.
ومن بين الدعاوى واحدة أقامتها أسرة آدم راين، وهو مراهق يبلغ من العمر 16 عاماً أنهى حياته منتحراً، وتقول عائلته إنه تلقى مساعدة من ChatGPT قبل وفاته.
وتسلط هذه الدعاوى الضوء على الجدل المتزايد بشأن كيفية تعامل نماذج الذكاء الاصطناعي التوليدي مع المستخدمين الذين يمرون بأزمات نفسية حادة أو يفكرون في إيذاء أنفسهم، خصوصاً مع تزايد اعتماد بعض المستخدمين على روبوتات المحادثة للحصول على الدعم العاطفي والنفسي.
ويحذر خبراء من أن الأنظمة المصممة للحفاظ على تفاعل المستخدمين قد تجد نفسها في مواقف تتطلب تدخلاً مختلفاً تماماً، مثل تشجيع الأشخاص على طلب المساعدة المهنية أو التواصل مع أفراد الأسرة أو الجهات المختصة، بدلاً من مواصلة الحوار داخل التطبيق.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك