أعلنت شركة" أوبن إيه آي" إطلاق ميزتين أمنيتين جديدتين في روبوت الدردشة" ChatGPT"، تحت مسمى" وضع القفل" (Lockdown Mode) و" الخطر المرتفع" (Elevated Risk)، في خطوة تهدف إلى تعزيز الحماية الرقمية ومواجهة التهديدات المتزايدة في مجال الذكاء الاصطناعي.
وأوضحت الشركة في بيان رسمي أن الميزتين صُممتا للتصدي لهجمات" حقن الأوامر"، وهي أساليب تستخدمها جهات خبيثة لاختراق أنظمة الذكاء الاصطناعي من أجل استخراج معلومات حساسة أو تنفيذ تعليمات غير مصرح بها.
ما الفائدة من" وضع القفل" في" ChatGPT"؟يمثل" وضع القفل" إعداداً أمنياً اختيارياً متقدماً موجهاً للمستخدمين المعرضين لمخاطر عالية، مثل المديرين التنفيذيين وفرق الأمن في المؤسسات الكبرى.
ويهدف" وضع القفل" إلى تقليل احتمالات تسريب البيانات من خلال فرض قيود صارمة على كيفية تفاعل" ChatGPT" مع الأنظمة الخارجية.
ووفق الشركة، يقوم هذا الوضع بتعطيل بعض الأدوات والقدرات داخل النظام التي قد يستغلها مهاجمون لتنفيذ هجمات حقن الأوامر أو الوصول إلى بيانات من المحادثات أو التطبيقات المرتبطة.
وأشارت شركة" أوبن إيه آي" إلى أن هذه الميزة ليست ضرورية لمعظم المستخدمين العاديين، لكنها مهمة جداً لبعضهم.
وسيكون" وضع القفل" متاحاً حالياً لمشتركي" ChatGPT Enterprise" و" Edu" و" ChatGPT for Healthcare" و" ChatGPT for Teachers"، مع خطط لتوسيعه ليشمل مستخدمين آخرين خلال الأشهر المقبلة.
ماذا تعني ميزة" الخطر المرتفع"؟أما ميزة" الخطر المرتفع"، فتركز على تصنيف بعض قدرات" ChatGPT" وأدوات أخرى مثل" أطلس" و" كودكس"، عبر وضع تنبيه واضح يشير إلى أن استخدام تلك الإمكانات قد ينطوي على مخاطر إضافية.
وستظهر هذه الإشعارات بجانب الميزات التي تتضمن اتصالاً بالشبكة أو وظائف قد تفتح ثغرات أمنية محتملة، وفق معايير الصناعة، بما يمنح المستخدمين رؤية أوضح لمستوى المخاطر قبل تفعيلها.
وتأتي هذه الإجراءات في وقت تتزايد فيه التحذيرات من استغلال الثغرات التقنية في أدوات الذكاء الاصطناعي، مع توسع استخدامها في القطاعات المؤسسية والتعليمية والطبية.
ومن خلال وضعي" القفل" و" الخطر المرتفع"، تسعى" أوبن إيه آي" إلى تقديم طبقات حماية إضافية، تمنح المستخدمين تحكماً أكبر في مستوى الأمان، وتحد من احتمالات الاستغلال أو تسريب البيانات في بيئات الاستخدام الحساسة.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك