أقامت عائلات ضحايا حادث إطلاق نار في مدرسة ببلدة تامبلر ريدج في مقاطعة كولومبيا البريطانية بكندا دعاوى قضائية ضد شركة OpenAI أمام محكمة فدرالية أمريكية، متهمة الشركة بالفشل في إبلاغ الشرطة بتفاعلات مقلقة بين المهاجمة وروبوت الدردشة ChatGPT قبل وقوع الهجوم.
وتُعد الدعوى المرفوعة باسم الطفلة مايا غيبالا، البالغة 12 عاماً، والتي أُصيبت بجروح حرجة في حادث إطلاق النار الذي وقع في فبراير الماضي، من أوائل الدعاوى التي تعتزم عائلات أخرى رفعها، وتشمل اتهامات بالإهمال، والقتل الخطأ، والمسؤولية عن عيوب في المنتج.
وبحسب وكالة أسوشيتد برس، قالت السلطات إن المهاجمة قتلت والدتها وشقيقها غير الشقيق البالغ 11 عاماً في المنزل يوم 10 فبراير، قبل أن تفتح النار في مدرسة Tumbler Ridge Secondary School، ما أدى إلى مقتل خمسة أطفال ومساعدة تربوية، وإصابة 25 شخصاً، قبل أن تنتحر.
ويتهم المدعون OpenAI بأنها لم تُبلغ أجهزة إنفاذ القانون بعدما رصدت سابقاً نشاطاً مقلقاً على حساب للمهاجمة، قالت الشركة إنه استُخدم لمناقشة العنف ضد أشخاص آخرين.
وذكرت OpenAI أنها حظرت ذلك الحساب في يونيو الماضي لمخالفته سياسات الاستخدام، لكنها قررت في ذلك الوقت أن النشاط لا يبلغ عتبة الإحالة إلى الشرطة.
وقال محامي المدعين، جاي إيدلسون، إن قرارات OpenAI ورئيسها التنفيذي سام ألتمان “دمّرت البلدة”، مضيفاً أن السكان صامدون، لكن ما حدث “لا يمكن تصوره”.
وتطالب الدعوى، إلى جانب التعويضات، بإلزام الشركة بتشديد إجراءاتها، خصوصاً في الحالات التي ترصد فيها أن مستخدماً قد يشكل خطراً واقعياً بالعنف.
وفي ردها على الدعوى، وصفت OpenAI ما حدث في تامبلر ريدج بأنه “مأساة”، مؤكدة أنها تعتمد سياسة عدم تسامح مع استخدام أدواتها للمساعدة في ارتكاب العنف.
وأضافت الشركة أنها عززت إجراءات السلامة، بما في ذلك تحسين الاستجابة لإشارات الضيق، وتطوير آليات تقييم وتصعيد التهديدات المحتملة، وتحسين رصد المستخدمين الذين يكررون انتهاك السياسات.
وكان سام ألتمان قد بعث برسالة اعتذار إلى المجتمع المحلي، عبّر فيها عن أسفه لعدم إبلاغ أجهزة إنفاذ القانون بالحساب الذي حُظر قبل الهجوم.
غير أن منتقدين ومسؤولين محليين اعتبروا الاعتذار غير كافٍ أمام حجم الخسائر التي لحقت بالعائلات والبلدة.
وتفتح هذه القضية نقاشاً قانونياً وأخلاقياً واسعاً حول مسؤولية شركات الذكاء الاصطناعي عندما ترصد أنماطاً خطرة في محادثات المستخدمين، وحول الحدود بين حماية الخصوصية، ومنع الضرر، وواجب الإبلاغ عن تهديدات قد تتحول إلى عنف حقيقي.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك