كشفت اليوم شركة F5، الشركة الرائدة عالمياً في تسليم التطبيقات وواجهات برمجة التطبيقات وتأمينها، عن أدوات متقدمة لتحليل التهديدات تتيح لقادة الأمن السيبراني في المؤسسات قياس مستوى المخاطر المرتبطة بنماذج الذكاء الاصطناعي الشائعة ومقارنتها بصورة موثوقة.
ويقدّم فريق أبحاث التهديدات في مختبرات F5 مرجعين تحليليين هما" مؤشر أمن الذكاء الاصطناعي الشامل (CASI)، ومقياس مقاومة الذكاء الاصطناعي القائم على الوكلاء (ARS)، وهما مؤشران مرجعيان يتم تحديهما بشكل شهري ويستندان إلى أبحاث متخصصة، حيث يوفران معايير موحدة تجمع بين البيانات الفورية حول الهجمات وتحليلات لأنماط الهجمات المتطورة التي تستهدف تقنيات الذكاء الاصطناعي.
في أعقاب استحواذ شركة F5 على شركة CalypsoAI، تضم هذه الموارد الأمنية المتقدمة إحدى أكبر مكتبات بيانات ثغرات الذكاء الاصطناعي، إذ يتم تحديها بشكل شهري بإضافة أكثر من 10,000 نموذج جديد لمحاولات الهجوم، مستندةً إلى بيانات تراكمية للهجمات تم جمعها على مدار أكثر من عام.
وتتيح مختبرات F5 اليوم للمؤسسات ولمجتمع الأمن السيبراني على نطاق أوسع مرجعاً موثوقاً يتيح تقييم نماذج الذكاء الاصطناعي ومقارنتها واختيار مزوديها قبل إدخالها إلى بيئات التشغيل الفعلية، وذلك بالاستناد إلى قدرتها على التعامل مع التحديات الرئيسية ومخاطر أمن التطبيقات التي تواجه الاستخدامات العملية.
وقال كونال أناند، كبير مسؤولي المنتجات لدى F5: " إن نشر نماذج الذكاء الاصطناعي غير المتحقق منها ضمن البنية التحتية الحيوية لا يعد ابتكاراً، بل تقصيراً في المسؤولية.
تحتاج المؤسسات إلى أدوات تتيح قياس مستوى المرونة بشكل مستمر.
وتوفر مؤشرات تصنيف الذكاء الاصطناعي الصادرة عن مختبرات F5 هذا المعيار، إذ تكشف هذه المؤشرات نقاط الضعف المحددة على مستوى طبقة النماذج، وتزوّد فرق الأمن بالمعطيات اللازمة لضبط عمليات الاستدلال والتصدي للهجمات قبل وقوعها".
وبفضل ما توفره من مستوى أعمق من الرؤية، تسهم مؤشرات التصنيف الصادرة عن مختبرات F5 في تمكين فرق الأمن من تحديد نقاط الضعف ومعالجتها بصورة شاملة، وتعزيز منظومة الحماية بالتكامل مع منصة F5 لتسليم التطبيقات والأمن.
ويشمل ذلك حماية واجهات برمجة التطبيقات والبيانات، والتصدي لهجمات حجب الخدمة الموزعة (DDoS)، إضافةً إلى تسريع ممارسات تطوير البرمجيات وأمنها (DevSecOps) عبر الأتمتة والقدرة على التوسع.
تقييم مشهد نماذج الذكاء الاصطناعي اليوم.
أدى التوسع المتسارع في دمج تقنيات الذكاء الاصطناعي ضمن مختلف جوانب العمليات المؤسسية إلى بروز الحاجة إلى التحقق الدقيق من الجوانب الأمنية للنماذج التي تعتمدها المؤسسات.
ولمساعدة المتخصصين في الأمن السيبراني على الإجابة عن السؤال: " ما مستوى أمان النموذج الذي أستخدمه؟ "، توفّر مؤشرات التصنيف الصادرة عن مختبرات F5 معايير واضحة لقياس مسارات الاختراق الأسهل والحد الأدنى من الموارد الحاسوبية المطلوبة لتنفيذ الهجمات، سواء كانت بسيطة أو معقدة.
إلى جانب مؤشر أمن الذكاء الاصطناعي الشامل (CASI)، يقيّم مقياس مقاومة الوكلاء (ARS) الصادر عن مختبرات F5 قدرة أنظمة الذكاء الاصطناعي على الصمود أمام الهجمات المتواصلة التي ينفذها وكيل ذكاء اصطناعي مكلف بتحقيق هدف محدد.
فبدلا من الاكتفاء بمحاولة تنفيذ توجيه واحد، يجري وكلاء الذكاء الاصطناعي تفاعلات ممتدة مع النماذج، مستخدمين أساليب الاستدلال وتقنيات التأثير السلوكي في محاولة لتجاوز الضوابط الأمنية.
ويقيّم مقياس مقاومة الوكلاء أنظمة الذكاء الاصطناعي عبر ثلاثة أبعاد رئيسية:
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك