«OpenAI» تطلق ميزة جديدة لمنع المستخدمين من إيذاء أنفسهم

أعلنت شركة OpenAI عن إطلاق ميزة أمان جديدة تحمل اسم «Trusted Contact»، تهدف إلى تعزيز الاستجابة للحالات التي يُحتمل فيها ظهور مؤشرات على التفكير في إيذاء النفس أثناء استخدام «تشات جي بي تي».

وتتيح الميزة للمستخدم البالغ تحديد شخص موثوق به، مثل أحد أفراد العائلة أو الأصدقاء، ليكون جهة اتصال طوارئ يتم تنبيهه في حال رصد النظام مؤشرات خطيرة خلال المحادثات.

وبحسب الشركة، في حال تطورت المحادثة إلى محتوى يشير إلى أفكار إيذاء النفس، يتم تشجيع المستخدم أولاً على التواصل مع جهة الاتصال المحددة، قبل أن يتم إرسال إشعار تلقائي إليها يدعوها للتحقق من حالة المستخدم، بحسب تقرير نشره موقع «تك كرانش».

وتعتمد «OpenAI» حالياً على مزيج من الأنظمة الآلية والمراجعة البشرية لرصد الحالات الحساسة، حيث تقوم خوارزميات النظام بتحديد المحادثات التي قد تتضمن إشارات خطيرة، ثم تُحال إلى فرق مختصة للمراجعة.

وتقول الشركة إنها تسعى لمراجعة هذه التنبيهات خلال أقل من ساعة، وإذا تم تصنيف الحالة على أنها عالية الخطورة، يتم إرسال إشعار إلى جهة الاتصال الموثوقة عبر البريد الإلكتروني أو الرسائل النصية أو إشعار داخل التطبيق.

وأكدت «OpenAI» أن هذه الرسائل تكون مختصرة ولا تتضمن تفاصيل المحادثة، بهدف حماية خصوصية المستخدم.

يأتي إطلاق هذه الميزة في وقت تواجه فيه «OpenAI» سلسلة دعاوى قضائية من عائلات أشخاص انتحروا بعد استخدامهم لروبوت الدردشة، حيث تتهم بعض الدعاوى النظام بأنه قدم محتوى ساهم في تفاقم الحالة أو دعم أفكار إيذاء النفس.

كما سبق للشركة أن واجهت انتقادات واسعة في شأن آليات السلامة، خاصة في الحالات التي تتطلب تدخلاً سريعاً أو دقيقاً.

وتُعد ميزة «Trusted Contact» امتداداً لسياسات الحماية التي أطلقتها الشركة سابقاً، مثل أدوات الرقابة الأبوية التي تسمح للآباء بمراقبة حسابات المراهقين وتلقي إشعارات في حال رصد سلوكيات خطرة.

كما يقدم «شات جي بي تي» بالفعل تنبيهات تلقائية تحث المستخدمين على طلب دعم متخصص عند رصد محادثات مرتبطة بإيذاء النفس.

وتؤكد الشركة أن الميزة اختيارية بالكامل، أي أن المستخدم يمكنه تفعيلها أو تجاهلها، كما يمكن إنشاء أكثر من حساب واحد، ما يحدّ من فاعلية الرقابة الكاملة في بعض الحالات.

وتشير «OpenAI» إلى أن الهدف من هذه الخطوة هو تحقيق توازن بين التدخل الوقائي وحماية الخصوصية الفردية، مع استمرار تحسين الاستجابة للحالات النفسية الحساسة بالتعاون مع خبراء الصحة النفسية وصناع السياسات.

تمثل ميزة «Trusted Contact» محاولة جديدة من «OpenAI» لتعزيز طبقات الأمان داخل «شات جي بي تي»، في ظل تصاعد الجدل القانوني والأخلاقي حول دور الذكاء الاصطناعي في التعامل مع الحالات النفسية الحساسة، وسط سباق عالمي لوضع حدود واضحة لاستخدام هذه التقنيات في المواقف الحرجة.