لم يعد الخطر السيبراني في عصر الذكاء الاصطناعي مقتصراً على الروابط الخبيثة أو الملفات الملغمة أو البرمجيات الضارة التقليدية، بل بات من الممكن أن تبدأ الهجمة الرقمية من مجرد إشعار عادي يصل إلى شاشة هاتفك الذكي.
ففي تطور تقني يثير قلقاً بالغاً داخل الأوساط الأمنية العالمية، كشفت تقارير أمنية متخصصة عن ثغرة حرجة تستهدف نظام الذكاء الاصطناعي" Google Gemini" على الأجهزة العاملة بنظام" Android"، تعتمد على أسلوب هجومي متقدم يعرف باسم" حقن الأوامر غير المباشر" (Indirect Prompt Injection)، ما يؤسس لجيل جديد من التهديدات السيبرانية المدعومة بالذكاء الاصطناعي.
وفي تحليل لطبيعة هذه الثغرة، أوضح رئيس وحدة الذكاء الاصطناعي والأمن السيبراني بمركز العرب للأبحاث والدراسات محمد محسن رمضان، أن" هذه الحادثة تمثل جرس إنذار حقيقياً يؤكد أن التهديدات السيبرانية لم تعد تستهدف الأجهزة والأنظمة التقليدية فقط، بل بدأت تستهدف آلية تفكير ونمذجة الأنظمة الذكية نفسها، وهو تطور بالغ الخطورة يستوجب استعداداً تقنياً وأمنياً من نوع مختلف".
كما بيّن رمضان لـ" العربية.
نت/الحدث.
نت" أنه في الوقت الذي تتسارع فيه الشركات التقنية لدمج نماذج الذكاء الاصطناعي التوليدي داخل أنظمة التشغيل اليومية لرفع الكفاءة، يطور المهاجمون أساليب مبتكرة لتحويل هذه التقنيات إلى أدوات للاختراق.
كذلك أشار إلى أن الثغرة المكتشفة مؤخراً تعتمد على تقنية تُعرف بـ" محاذاة السياق المزيف" (Fake Context Alignment)، وهي آلية تسمح للمهاجم بخداع نموذج الذكاء الاصطناعي عبر تزويده بسياق يبدو طبيعياً ومشروعاً، بينما ينطوي في حقيقته على تعليمات خفية مصممة للتلاعب بسلوك النموذج وآلية استجابته.
رسائل على تطبيقات المراسلةأما عن كيفية التنفيذ، فأفاد رمضان بأن خطورة الثغرة تكمن في استهدافها المباشر لوظيفة ذكية داخل Gemini تُعرف بـAndroid Utilities، وهي المسؤولة عن قراءة ومعالجة البيانات الواردة من التطبيقات المختلفة، بما في ذلك الإشعارات والتنبيهات.
ووفقاً للسيناريوهات الهجومية المحتملة، يمكن للمهاجم صياغة رسالة تحتوي على تعليمات خفية وإرسالها عبر تطبيقات المراسلة واسعة الانتشار مثل WhatsApp - Signal - Messenger - Slack - Instagram - الرسائل النصية القصيرة (SMS).
وبمجرد وصول الرسالة وتوليد إشعار على الهاتف، يتعامل Gemini مع المحتوى كبيانات طبيعية يحتاج لمعالجتها، وهنا تكمن الثغرة.
إذ لا يفسر النظام هذه البيانات بوصفها محتوى مقروءاً فقط، بل يتعامل مع أجزاء منها كـ" أوامر تشغيلية" موجهة إليه مباشرة، دون حاجة المهاجم لاختراق الهاتف أو زرع برمجيات خبيثة.
من جانبه، وصف مساعد وزير الداخلية المصري الأسبق محمد رجائي، الواقعة بأنها إعلان رسمي لدخول مرحلة جديدة من التهديدات الرقمية يمكن تسميتها بـ" هجمات هندسة السياق" (Context Engineering Attacks).
وأضاف رجائي لـ" العربية.
نت/الحدث.
نت" أن" الهدف لم يعد استغلال ثغرة برمجية في الأكواد، بل استغلال طريقة فهم الذكاء الاصطناعي للمعلومات، وأن مفهوم الأمن السيبراني اتسع ليشمل حماية عقل الذكاء الاصطناعي من التلاعب والخداع المعرفي، وهي معركة أمنية ستشكل أبرز تحديات السنوات المقبلة".
فيما حذر من التعامل باستهانة مع الإشعارات المجهولة، مؤكداً أن الثقة المطلقة في الأنظمة الذكية تشكل خطراً، فالنموذج لا يستطيع دائماً التمييز بين المحتوى العادي والتعليمات المبطنة المدمجة بعناية.
ولمواجهة هذا النمط المتطور من التهديدات وحماية الأمن القومي الرقمي والمؤسسي، شدد رجائي على ضرورة اتباع التدابير التالية، وهي سرعة تثبيت التحديثات الأمنية فور صدورها من الشركات المصنعة لأنظمة التشغيل، وإعادة النظر في الصلاحيات الممنوحة لتطبيقات الذكاء الاصطناعي، خاصة تلك المتعلقة بقراءة الإشعارات والتفاعل معها.
في حين طالب بإيقاف الوظائف والمساعدات الذكية غير الضرورية بحال عدم وجود حاجة فعلية لاستخدامها، وتجنب التفاعل مع الرسائل أو الإشعارات الواردة من مصادر غير موثوقة، والامتناع التام عن فتح الروابط غير المعتادة.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك