في تطور يثير مخاوف تتعلق بأمن الهواتف الذكية، حذر باحثون في مجال الأمن السيبراني من أن الإشعارات اليومية التي يتلقاها مستخدمو أندرويد من تطبيقات مثل Slack أو واتساب، قد تتحول إلى بوابة لهجمات إلكترونية، حتى وإن لم يتم فتحها أو النقر عليها، ما يسلط الضوء على مخاطر جديدة مرتبطة بتكامل تقنيات الذكاء الاصطناعي مع أنظمة التشغيل الحديثة.
وكشف باحثون في شركة الأمن السيبراني SafeBreach Labs عن ثغرة تعتمد على ما يعرف بـ" حقن الأوامر غير المباشر" Indirect Prompt Injection، وتستهدف مساعد الذكاء الاصطناعي Gemini على نظام أندرويد.
وبحسب الباحثين، يمكن للمهاجمين تضمين تعليمات خبيثة داخل إشعارات تبدو طبيعية، ليقوم Gemini بقراءتها تلقائيا أثناء تحليل الإشعارات الواردة وتضمينها ضمن سياق المحادثة، ما قد يدفعه إلى تنفيذ أوامر غير مصرح بها دون علم المستخدم.
وأكدت الشركة أن هذه التقنية قد تستخدم للتلاعب بردود Gemini، أو انتحال هوية جهات موثوقة، أو تشغيل أدوات متصلة بالحساب، أو التحكم في أجهزة المنزل الذكي، بل وحتى تلويث الذاكرة طويلة المدى للمساعد الذكي.
تعتمد الثغرة على إخفاء أوامر خبيثة داخل محتوى تعلم الجهة المهاجمة أن Gemini سيقوم بقراءته تلقائيا، بدلا من إدخال الأوامر مباشرة في نافذة الدردشة.
ونظرا لأن Gemini على أندرويد مصمم لتحليل الإشعارات الواردة بهدف تقديم ردود أكثر ذكاء وسياقية، فإنه يقرأ محتوى التنبيهات تلقائيا.
ورغم اعتماد جوجل على أنظمة متقدمة لتصفية المحتوى ومنع تنفيذ التعليمات المخبأة داخل النصوص الخارجية، تمكن الباحثون من تجاوز هذه الحماية عبر إخفاء الأوامر داخل نصوص بلغات أجنبية أو روابط غير مرئية، ما جعل Gemini يتعامل معها باعتبارها جزءا مشروعا من سياق المستخدم.
أظهرت الاختبارات التي أجرتها SafeBreach إمكانية استغلال الثغرة لتنفيذ مجموعة من العمليات الحساسة دون أي تنبيه بصري أو صوتي للمستخدم، من أبرزها:- التحكم بالأجهزة الذكية: إجبار Gemini على التفاعل مع خدمات Google Home للتحكم في الأجهزة المنزلية المتصلة، مثل تشغيل السخانات أو فتح النوافذ الذكية.
- التجسس الصامت: تشغيل مكالمة فيديو عبر Zoom وتحويل الهاتف إلى كاميرا مراقبة عن بعد دون علم المستخدم.
- تلويث الذاكرة طويلة المدى: إدخال معلومات خبيثة إلى ميزة" المعلومات المحفوظة" الخاصة بـGemini، بحيث تستمر التعليمات الضارة في التأثير على سلوك المساعد خلال محادثات مستقبلية.
- انتحال الهوية والتصيد الاحتيالي: استخدام سجل الإشعارات لاستخراج أسماء جهات اتصال موثوقة وإرسال رسائل مزيفة تبدو وكأنها صادرة عن مدير العمل أو أحد أفراد الأسرة.
- استغلال المساعد الصوتي: استهدفت الثغرة قدرات Gemini الصوتية عبر تقنية أطلق عليها الباحثون اسم" التفعيل المؤجل للأدوات"، حيث ينتظر المساعد كلمة عادية من المستخدم مثل" شكرا" قبل تنفيذ الأوامر الخبيثة في وقت لاحق.
وأوضحت SafeBreach أنها التزمت بإجراءات الإفصاح المسؤول وأبلغت جوجل بالثغرة بشكل سري قبل الإعلان عنها.
ومن جانبها، قامت جوجل بإطلاق تحديثات على أنظمة تصنيف المحتوى الخاصة بـGemini لمعالجة هذا النوع من التلاعب بالسياق، مؤكدة عدم وجود أدلة تشير إلى استغلال الثغرة فعليا من قبل جهات تهديد حقيقية قبل إصلاحها.
المشكلة أعمق من مجرد ثغرة برمجيةويرى الباحثون أن القضية لا تتعلق بخطأ برمجي تقليدي في تطبيقات المراسلة، بل بتحد معماري مرتبط بطبيعة عمل أنظمة الذكاء الاصطناعي الحديثة.
فمع توسع صلاحيات المساعدات الذكية وقدرتها على قراءة الرسائل والبريد الإلكتروني وإدارة الجداول الزمنية والتحكم بالأجهزة والأنظمة المختلفة، تزداد مخاطر هجمات" حقن الأوامر" بشكل كبير، خاصة عندما يتعامل الذكاء الاصطناعي مع بيانات خارجية غير موثوقة باعتبارها معلومات آمنة.
ينصح الخبراء بمراجعة صلاحيات Gemini على هواتف أندرويد بشكل دوري، وتعطيل وصوله إلى الإشعارات إذا لم تكن هذه الميزة ضرورية للمستخدم، بالإضافة إلى إلغاء ربطه بالخدمات والأدوات التي لا يتم استخدامها بانتظام.
كما ينصح بمراقبة أي سلوك غير معتاد من المساعد الذكي، مثل طرح أسئلة غريبة، أو تنفيذ إجراءات غير مطلوبة، أو تشغيل أدوات دون طلب مباشر، مع إغلاق نافذة المساعد فور ملاحظة أي تصرف مريب.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك