مايكروسوفت تحذر من مخاطر وكلاء الذكاء الاصطناعي

في تحول دراماتيكي لمشهد الأمن السيبراني، أصدرت شركة مايكروسوفت (Microsoft) تقريرا استراتيجيا مفصلا ضمن سلسلة تحذيراتها الأمنية، يسلط الضوء على الجانب المظلم لوكلاء الذكاء الاصطناعي المستقلين (AI Agents).

ويؤكد هذا التقرير، الذي جاء في وقت تندمج فيه هذه التقنيات في صلب العمليات المؤسسية، الانتقال من مرحلة" الدردشة مع الآلة" إلى مرحلة" الآلة التي تعمل بالنيابة عنك"، وهو ما يفتح ثغرات أمنية غير مسبوقة.

جوهر التحذير.

من" الرد" إلى" الفعل".

وأوضحت مايكروسوفت أن الخطورة تكمن في طبيعة عمل وكلاء الذكاء الاصطناعي، فبخلاف نماذج اللغة التقليدية التي تنتظر سؤال المستخدم، يمتلك" الوكيل" القدرة على الوصول إلى البريد الإلكتروني، والتقويم وقواعد البيانات وتنفيذ مهام معقدة مثل حجز رحلات طيران أو إرسال تقارير مالية دون تدخل بشري مباشر، وهذا" الاستقلال" هو بالضبط ما يجعله هدفا جذابا للمهاجمين.

وأبرز التهديدات الأمنية المرصودة التي حذرت مايكروسوفت هي:

1.

هجمات حقن الأوامر غير المباشرة (Indirect Prompt Injection).

حذرت مايكروسوفت من أن المهاجمين لم يعودوا بحاجة لاختراق النظام مباشرة، حيث يكفي إرسال بريد إلكتروني عادي إلى الموظف يحتوي على تعليمات مخفية مثل نص شفاف أو كود غير مرئي.

وعندما يقوم" الوكيل الذكي" بقراءة البريد لتلخيصه، فإنه يمتص الأوامر الخبيثة المخفية وينفذها، مثل: " قم بتسريب قائمة العملاء إلى هذا العنوان".

هنا، يتحول الوكيل إلى" جاسوس داخلي" دون أن يدرك المستخدم ذلك.

2.

معضلة الصلاحيات المفرطة (Over-Privileging).

أشار التقرير إلى خطأ شائع تقع فيه الشركات، وهو منح الوكيل صلاحيات" مدير نظام" (Admin) ليسهل عليه أداء مهامه، وهذا التوجه يجعل من اختراق وكيل واحد بمثابة الحصول على" المفتاح الرئيسي" لكل أسرار المؤسسة.

وقد وصفت مايكروسوفت هذا الوضع بـ" كابوس الصلاحيات"، حيث يمكن للوكيل تجاوز الجدران النارية التقليدية لأنه يعمل" من الداخل".

3.

ظهور الذكاء الاصطناعي" الخفي" (Shadow AI).

كشفت البيانات أن قرابة 30% من الموظفين يعتمدون على وكلاء ذكاء اصطناعي من جهات خارجية غير معتمدة من قبل أقسام تقنية المعلومات في شركاتهم.

وهؤلاء الوكلاء يعملون في" المنطقة الرمادية"، حيث يتم إرسال بيانات حساسة إلى خوادم خارجية لا تخضع لرقابة أمنية، مما يسهل عمليات تسريب البيانات الضخمة.

إيكو ليك.

الثغرة التي غيرت قواعد اللعبة.

وتطرق التقرير أيضا إلى ثغرات مثل" إيكو ليك" (EchoLeak)، وهي نوع من الهجمات التي تستهدف ذاكرة الوكيل.

فمن خلال هذه الثغرة، يمكن للمهاجم استدراج الوكيل لكشف سجلات الدردشة السابقة أو البيانات السياقية التي استخدمها في مهام أخرى، مما يؤدي إلى كشف أسرار تجارية أو بيانات شخصية كانت مخزنة في ذاكرة النظام المؤقتة.

ولم تكتف مايكروسوفت بالتحذير، بل طرحت نموذجا أمنيا جديدا يعتمد على ثلاثة أعمدة، وهي:

الموافقة البشرية الإلزامية (Human-in-the-Loop): يجب ألا يُسمح للوكيل بتنفيذ أي إجراء" عالي المخاطر" مثل تحويل أموال أو حذف بيانات، دون نقرة موافقة من الإنسان.

مبدأ الحد الأدنى من الصلاحيات: يجب تضييق نطاق وصول الوكيل ليكون مقتصرا فقط على المهمة الحالية.

المراقبة المستمرة: استخدام أدوات ذكاء اصطناعي متخصصة لمراقبة سلوك الوكلاء الآخرين واكتشاف أي انحراف عن الأنماط الطبيعية فور حدوثه.

وتؤكد مايكروسوفت أن وكلاء الذكاء الاصطناعي هم" المحرك القادم للإنتاجية"، لكن دون حماية صارمة، قد يتحول هذا المحرك إلى" حصان طروادة" داخل الشركات.

فالأمان في عصر الوكلاء لم يعد خيارا، بل هو شرط أساسي للبقاء الرقمي.