أطلق الملياردير الأمريكي إيلون ماسك تحذيرا جديدًا بشأن استخدام روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، داعيًا إلى إبعاد منصة ChatGPT عن الأطفال والأشخاص الذين يعانون من اضطرابات نفسية، وذلك عقب تقارير كشفت ارتباط المشتبه به في حادث إطلاق نار مميت في كندا باستخدام الأداة قبل وقوع الهجوم.
وجاء تعليق ماسك عبر منصة X، في ظل تصاعد الجدل حول مدى مسؤولية شركات الذكاء الاصطناعي عن مراقبة استخدام تقنياتها ومنع استغلالها في التخطيط لأعمال عنف.
حساب المشتبه به على ChatGPT رُصد قبل الهجومجاء تعليق ماسك ردًا على منشور للناشط التقني هيرنان كورتيس أشار فيه إلى مزاعم بأن منفذ حادث إطلاق نار في مدرسة بمنطقة تمبلر ريدج بكندا استخدم ChatGPT في وضع خطة مفصلة لارتكاب جريمة جماعيةوبحسب مقتطف من دعوى قضائية جرى تداوله في المنشور، فإن نظام المراقبة الخاص بنماذج اللغة في شركة OpenAI رصد محادثات المستخدم المتعلقة بالعنف المسلح، وقام بإحالتها إلى مشرفين بشريين لمراجعتها.
وتزعم الدعوى أن نحو 12 موظفًا في OpenAI اعتبروا تلك المحادثات مؤشرًا على" خطر وشيك بإلحاق أذى جسيم بالآخرين"، واقترحوا إبلاغ الشرطة الكندية.
لكن، وفقًا لما ورد في الادعاءات، فإن هذه التوصية لم تعتمد من قبل قيادة الشركة.
وتضيف الدعوى أن الإجراء الوحيد الذي اتخذته الشركة في ذلك الوقت كان حظر الحساب الأول للمستخدم المرتبط بالمحادثات المثيرة للقلق.
غير أن ذلك لم يمنع الشخص المعني من إنشاء حساب ثانٍ ومواصلة استخدام ChatGPT في مناقشة سيناريوهات تتعلق بالعنف المسلح، بحسب ما ذكره المدعون وتقارير إعلاميةفي خضم الجدل، كشفت شركة OpenAI أنها رصدت حسابًا مرتبطًا بالمشتبه به جيسي فان روتسيلار في يونيو 2025، وذلك عبر أنظمة الكشف عن إساءة الاستخدام التي تعتمد على أدوات آلية وتحقيقات بشرية لمتابعة أي نشاط قد يرتبط بالعنف.
وأوضحت الشركة أنها قامت بحظر الحساب في ذلك الوقت بعد اكتشاف استخدامه بطريقة تثير القلق، إلا أنها لم تبلغ السلطات لأن المعلومات المتاحة لم تصل بحسب تقييمها إلى مستوى خطة موثوقة أو تهديد وشيك بإلحاق أذى جسيم بالآخرين.
وقع الهجوم في 12 فبراير داخل مدرسة تومبلر ريدج الثانوية في بلدة تومبلر ريدج بمقاطعة كولومبيا البريطانية، وأسفر عن مقتل ثمانية أشخاص وإصابة 27 آخرين، في واحدة من أكثر حوادث إطلاق النار دموية في تاريخ البلاد.
وذكرت السلطات أن المشتبه به عثر عليه لاحقا داخل المدرسة وقد توفي نتيجة إصابة بطلق ناري أطلقه على نفسه.
كما أفادت الشرطة بأن والدة المشتبه به وأخاه غير الشقيق كانا بين الضحايا، حيث عُثر عليهما مقتولين داخل منزل في البلدة.
بعد وقوع الهجوم، قالت OpenAI إنها تواصلت بشكل استباقي مع الشرطة الكندية وقدمت معلومات مرتبطة بالمشتبه به لدعم التحقيقات الجارية.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك