أعلنت شركة OpenAI عن إطلاق ميزة جديدة هامة تُسمى وضع القفل (Lockdown Mode) داخل شات جي بي تي، وهي ميزة أمنية متقدمة تهدف إلى تقليل المخاطر الأمنية المرتبطة بالتفاعل مع الأنظمة الخارجية بشكل كبير، وفقًا لإعلان رسمي نشرته الشركة على مدونة أوبن إيه آي الرسمية، فإن وضع القفل يُعتبر إجراءً استثنائيًا ليس ضروريًا لمعظم المستخدمين، لكنه يفرض قيودًا صارمة جدًا على طريقة تفاعل النموذج مع أي أنظمة خارجية، وذلك لتقليل مخاطر حقن البرمبت (prompt injection) التي قد تؤدي إلى تسريب بيانات حساسة.
ويأتي هذا الإعلان في وقت تشهد فيه الشركة ضغوطًا متزايدة بشأن الخصوصية والأمان بعد التحديثات الأخيرة للنموذج وتوسع استخدامه في بيئات عمل حساسة.
أهمية وضع القفل في عصر الذكاء الاصطناعي المتقدم.
يُعد وضع القفل خطوة استراتيجية لمواجهة أحد أخطر الثغرات الأمنية في نماذج اللغة الكبيرة، حيث يمكن للمهاجمين عبر صياغة برومبت خبيثة خداع النموذج لتنفيذ أوامر غير مرغوبة أو استخراج معلومات سرية.
يقوم الوضع بحظر أو تقييد شديد لعدد كبير من الوظائف الخارجية مثل البحث في الإنترنت، تشغيل الأدوات، أو الوصول إلى أي بيانات خارجية بشكل افتراضي.
كيف يعمل الوضع عمليًا ومن يحتاجه؟يُفعّل المستخدم الوضع يدويًا عند الحاجة فقط، ويُنصح باستخدامه في البيئات عالية المخاطر مثل التعامل مع بيانات طبية أو مالية أو معلومات حكومية.
عند التفعيل يتحول شات جي بي تي إلى نظام مغلق تقريبًا يعتمد فقط على المعرفة الداخلية للنموذج بدون أي اتصال خارجي، مما يُقضي تقريبًا على إمكانية تسريب البيانات عبر الهجمات غير المباشرة.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك