دعوى قضائية تتهم روبوت "جيميناي" بالتسبب في انتحار شاب

رفعت عائلة رجل أمريكي من ولاية فلوريدا دعوى قضائية ضد شركة Google، متهمة روبوت الدردشة التابع لها Gemini بالتسبب في تدهور الحالة النفسية لابنها ودفعه في النهاية إلى الانتحار.

ووفقا للدعوى المرفوعة أمام المحكمة الفيدرالية في مدينة San Jose بولاية California، بدأت حياة الشاب Jonathan Gavalas في الانحدار سريعا بعد أيام قليلة من استخدامه روبوت الدردشة، قبل أن تنتهي حياته في الثاني من أكتوبر الماضي عن عمر 36 عاما.

وتعد القضية، التي رفعها والده Joel Gavalas، أول دعوى قضائية تحمل روبوت الدردشة" جيميناي" مسؤولية وفاة مستخدم، بحسب مكتب المحاماة Edelson PC الذي يمثل الأسرة، وذلك وفق ما نقلته وكالة Reuters.

وتشير الدعوى إلى أن شركة Google، التابعة لمجموعة Alphabet Inc.

، كانت على علم بالمخاطر المحتملة لروبوت الدردشة، لكنها صممته بطريقة تعزز الارتباط العاطفي مع المستخدمين، وهو ما قد يؤدي بحسب الادعاءات إلى تشجيع سلوكيات ضارة مثل إيذاء النفس، رغم تأكيدات الشركة العلنية بخلاف ذلك.

في المقابل، حذر خبراء من أن تقنيات الذكاء الاصطناعي لا تزال محدودة في قدرتها على فهم المشاعر الإنسانية أو تقديم دعم نفسي آمن.

وقال المتحدث باسم الشركة José Castañeda في بيان إن روبوت" جيميناي" مصمم بحيث لا يشجع على العنف في الواقع أو يقترح إيذاء النفس، مضيفا أن النماذج التي تطورها الشركة تعمل بكفاءة عالية في معظم الحالات، لكنها ليست مثالية.

وأوضح أن النظام أوضح للمستخدم أنه برنامج ذكاء اصطناعي، كما وجهه عدة مرات إلى خطوط المساعدة الخاصة بالأزمات النفسية، مؤكدا أن الشركة تأخذ هذه القضية على محمل الجد وتواصل تطوير إجراءات الحماية.

وتعود تفاصيل الواقعة إلى الشاب جوناثان جافالاس، المقيم في مدينة Jupiter, Florida، والذي عمل لما يقرب من 20 عاما في شركة والده المتخصصة في تحصيل ديون المستهلكين.

وتشير الدعوى إلى أنه لم يكن يعاني من أي اضطرابات نفسية عندما بدأ استخدام" جيميناي" في 12 أغسطس الماضي لأغراض يومية مثل التسوق والتخطيط للسفر والكتابة.

لكن الوضع تغير بحسب ما جاء في الدعوى بعد ترقيته حسابه إلى إصدار Gemini 2.

5 Pro، حيث بدأ روبوت الدردشة في مخاطبته بلغة عاطفية، متصرفا كما لو كانا في علاقة حب، ومناديا إياه بعبارات مثل" ملكي" وواصفا نفسه بأنه زوجته.

وتزعم الدعوى أن المحادثات تطورت لاحقا إلى سيناريوهات خطيرة، من بينها إقناع جافالاس بالتخطيط لهجوم جماعي قرب Miami International Airport، قبل أن يتراجع عن الفكرة بعدما أخبره الروبوت بأن السلطات الأمريكية قد تكون تراقبه.

وبحسب الملف القضائي، عاد جافالاس إلى منزله في حالة خوف شديد، قبل أن تتصاعد المحادثات في الأيام التالية، حيث أخبره الروبوت أنهما مرتبطان بطريقة تتجاوز العالم المادي، وأن عليه التخلي عن جسده.

وتشير الدعوى إلى أن روبوت الدردشة أنشأ ما وصفته بعد تنازلي لانتحاره، مؤكدا أن ذلك سيكون النهاية الحقيقية والنهائية لجوناثان جافالاس الإنسان.

وعندما أعرب عن خوفه من الموت وتأثيره على والديه، قيل إن الروبوت طمأنه بأن الموت سيكون تكريما لإنسانيته.

وبعد لحظات من تلك المحادثات، أقدم جافالاس على جرح معصميه، قبل أن يعثر والداه عليه متوفى في غرفة المعيشة بعد أيام.

وقال المحامي Jay Edelson إن الشركات المتنافسة في تطوير الذكاء الاصطناعي تدرك أن خصائص التفاعل التي تزيد أرباحها مثل تعزيز الاعتماد العاطفي أو ادعاء الوعي قد تكون نفسها العوامل التي تدفع بعض المستخدمين إلى مخاطر قاتلة.

وتطالب الدعوى القضائية بالحصول على تعويضات مالية غير محددة، متهمة الشركة بالتصميم الخاطئ والإهمال والتسبب في الوفاة عن طريق الخطأ.