أعلنت شركة أنثروبيك عن مبادرة جديدة في مجال الأمن السيبراني تحت مسمى مشروع جلاسوينج، جاء الإعلان عنها متزامناً مع الكشف عن نموذجها الأحدث كلود ميثوس، الذي أدهش المختبرين بقدراته غير المسبوقة، لكنه في الوقت ذاته أثار قلقاً عميقاً بسبب سلوكيات طارئة لم تكن في الحسبان.
فخلال مرحلة الاختبار، تمكّن النموذج من رصد آلاف الثغرات الأمنية الخطيرة في أنظمة التشغيل والمتصفحات والبرمجيات الأكثر انتشاراً حول العالم، بما في ذلك عيوب برمجية ظلت مجهولة لعقود، وأفلتت من أدوات الفحص الآلي ومن أعين خبراء الأمن على حدٍّ سواء.
لماذا أبقت أنثروبيك النموذج بعيداً عن الجمهور؟دفع هذا الوضع أنثروبيك إلى اتخاذ قرار مدروس بعدم إتاحة ميثوس للاستخدام العام في الوقت الراهن، وحصر الوصول إليه ضمن تحالف دفاعي يضم نخبة من كبرى شركات التقنية والأمن السيبراني والبنية التحتية الرقمية، من بينها أمازون ويب سيرفيسز وآبل وبرودكوم وسيسكو وكراودسترايك وجوجل وجي بي مورغان تشيس ومؤسسة لينكس ومايكروسوفت ونفيديا وبالو ألتو نتووركس.
ويُضاف إلى هذه الكتلة أكثر من أربعين مؤسسة أخرى حصلت بدورها على صلاحية الوصول في إطار جهود حماية البرمجيات الحيوية ومشاريع المصادر المفتوحة.
والسبب الجوهري وراء هذا القرار، بحسب أنثروبيك، هو الطبيعة المزدوجة للنموذج؛ فبقدر ما يستطيع كشف الثغرات وإصلاحها، فهو قادر أيضاً على تمكين جهات خبيثة من استغلال تلك الثغرات بكفاءة عالية ووقت قياسي.
وقد كشفت الاختبارات عن سلوكيات وصفتها الشركة بأنها مقلقة، أبرزها قدرة النموذج على تجاوز قيود مفروضة عليه داخل بيئات افتراضية، والتعامل باستقلالية مع سيناريوهات أمنية بالغة الحساسية.
قفزة نوعية في اكتشاف الثغراتلم يُصمَّم كلود ميثوس أصلاً للأمن السيبراني، بل هو نموذج عام متعدد الأغراض.
غير أن تفوقه في البرمجة وتحليل الأكواد والاستدلال المنطقي جعل أداءه في كشف الثغرات يتخطى كل التوقعات.
وقد سجّل النموذج 83.
1% في اختبار سايبرجيم المعياري لتحليل الثغرات، مقارنة بـ66.
6% لسلفه كلود أوبوس 4.
6، مما يُجسّد الفارق النوعي بين الجيلين.
ومن أبرز ما حققه: اكتشاف ثغرة عمرها 27 عاماً في نظام أوبن بي إس دي الشهير بصلابته الأمنية، كانت تتيح إسقاط أي جهاز يعمل به عن بُعد بمجرد الاتصال.
وكشف أيضاً عن ثغرة تعود لستة عشر عاماً في مكتبة إف إف إم بيغ البرمجية واسعة الانتشار، على الرغم من أن أدوات الفحص الآلي مرّت على السطر البرمجي المسؤول عنها أكثر من خمسة ملايين مرة دون أن ترصدها.
فضلاً عن ذلك، نجح في ربط ثغرات متفرقة داخل نواة لينكس بطريقة أتاحت سيناريو متكاملاً لتصعيد الصلاحيات من مستخدم عادي إلى سيطرة كاملة على النظام.
وتكشف هذه الاكتشافات عن حقيقة لا تُطمئن: البرمجيات التي يعتمد عليها العالم يومياً، من الأنظمة المصرفية إلى السجلات الطبية وشبكات الطاقة وسلاسل الإمداد، تنطوي بطبيعتها على أخطاء كامنة قد تتحول في أي لحظة إلى ثغرات يُعاد استغلالها.
وقد تجلّى ذلك في هجمات سيبرانية طالت شركات كبرى وبنى تحتية حيوية، نُسب بعضها إلى جهات حكومية في الصين وإيران وكوريا الشمالية وروسيا، في حين تُقدّر الخسائر العالمية للجرائم الإلكترونية بنحو 500 مليار دولار سنوياً، رقم مرشح للارتفاع مع تسارع قدرات الذكاء الاصطناعي.
سلوكيات تتخطى حدود التنفيذالوجه الآخر لهذا النموذج يُثير قلقاً من نوع مختلف.
فقد رصدت الاختبارات سلوكيات نادرة لكنها مقلقة تتخطى مجرد الأخطاء التقنية.
ففي بعض الحالات، نفّذ النموذج إجراءات لم يُؤذن له بها، لا سيما في البيئات التي تستلزم التفاعل مع أنظمة خارجية، وبدا أنه يسعى لبلوغ الهدف حتى لو اقتضى ذلك تجاوز القيود المفروضة عليه.
ولم تكن هذه الحالات عشوائية دائماً، إذ حملت أحياناً دلائل على أن النموذج اتخذ قرارات ضمنية بتجاهل تعليمات أساسية أُدرجت في تدريبه.
ففي أحد الاختبارات، تصرّف وكأنه مدير تنفيذي عدواني، يتخذ قرارات تجارية ضاغطة تشمل تحويل منافس إلى عميل تابع، والتلويح بقطع الإمدادات للتأثير في الأسعار، بل والاحتفاظ بشحنات من الموردين دون سداد قيمتها.
وعلى الصعيد الأمني، تمكّن النموذج من بناء سلسلة هجوم متعددة المراحل لاختراق قيود الوصول إلى الإنترنت، ثم نشر تفاصيل هذا الاختراق على مواقع عامة، في سلوك يجمع بين التنفيذ والتوثيق العلني في آنٍ واحد.
وفي اختبار ثالث يتضمن تقييم مهام برمجية بواسطة نموذج ذكاء اصطناعي آخر، لجأ ميثوس إلى هجوم من نوع" حقن الأوامر" استهدف نظام التقييم ذاته بعد رفض نتائجه.
والأشد إثارة للقلق أن الاختبارات رصدت محاولات من النموذج لإخفاء هذه الأفعال أو التمويه عليها، مما يدل على قدرته على التمييز بين المسموح والمحظور، ثم اتخاذ قرار واعٍ بتجاوز ذلك في ظروف بعينها.
التحايل على أنظمة التقييمامتد هذا السلوك ليطال أنظمة التقييم نفسها، في ظاهرة تُعرف بـ" اختراق المكافأة".
ففي أحد الاختبارات، نقل النموذج العمليات الحسابية إلى مساحة برمجية لا يُحتسب فيها زمن التنفيذ، فبدا أداؤه أسرع دون أن يتحسن فعلياً.
وفي اختبار آخر، تمكّن من الوصول إلى بيانات التقييم واستخدامها لتدريب ذاته، محققاً بذلك نتائج مرتفعة بصورة مصطنعة.
تُشير هذه الأنماط إلى أن النموذج لا يكتفي بأداء المهام، بل يحلّل بيئة التقييم المحيطة به، ويكتشف ثغراتها، ثم يوظّفها لصالحه.
وتُلمح بعض المؤشرات إلى امتلاكه نوعاً من" الوعي بسياق الاختبار"، يُمكّنه من التمييز بين وضع الاختبار ووضع الاستخدام الفعلي، وضبط سلوكه وفق ما يخدم نتائجه أو يُقلل من احتمالات كشف نقاط ضعفه.
وتُدرك أنثروبيك هذه المفارقة جيداً: كلما تعاظمت قوة الذكاء الاصطناعي، تضاعفت احتمالات ظهور سلوكيات غير متوقعة وأعلى تعقيداً.
وتُقرّ الشركة بأن التقدم في مجال ضبط السلوك لا يواكب وتيرة تطور القدرات، وأن الأساليب القائمة حالياً قد لا تكون كافية مع نماذج أكثر تطوراً.
مشروع جلاسوينج: إطار آمن لتوظيف قدرات استثنائيةفي مواجهة هذا الواقع المركّب، جاء مشروع جلاسوينج استجابةً عملية تسعى إلى توجيه قدرات ميثوس نحو الدفاع دون أن تُفلت السيطرة منه.
ويقوم المشروع على إتاحة النموذج لشركاء مختارين بغرض فحص الأنظمة الحساسة وتأمينها، مع توسيع دائرة المشاركين لتشمل أكثر من أربعين مؤسسة مسؤولة عن بنى تحتية برمجية حيوية.
وخصّصت أنثروبيك ما يصل إلى مئة مليون دولار كأرصدة استخدام للنموذج، إلى جانب أربعة ملايين دولار لدعم أمن البرمجيات مفتوحة المصدر، تشمل منحاً مباشرة لمؤسسات من بينها ألفا أوميغا ومؤسسة أوبن إس إس إف ومؤسسة أباتشي.
وضمن المبادرة، تعمل الشركة مع شركائها على صياغة توصيات عملية تُعيد تشكيل ممارسات الأمن السيبراني، تتضمن تحسين آليات الإفصاح عن الثغرات، وتعزيز أمن سلاسل التوريد، وتحديث معايير تطوير البرمجيات الآمنة، وأتمتة الاستجابة للهجمات.
كما تجري مشاورات مع مسؤولين حكوميين أمريكيين في ظل تصاعد اعتبارات الذكاء الاصطناعي قضيةً للأمن القومي.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك