يُروَّج لـ" وكلاء" الذكاء الاصطناعي بوصفهم أدوات توفّر الوقت والجهد عبر تنفيذ المهام تلقائياً، لكن توسّع قدرات أنظمة مثل" أوبن كلاو" (OpenClaw)، الذي يضم أكثر من ثلاثة ملايين مستخدم حول العالم، يثير مخاوف لدى خبراء الأمن السيبراني.
ويتيح النظام للمستخدمين إنشاء ما يُعرف بـ" الوكلاء"، وهي أدوات قائمة على نماذج لغوية كبيرة، مثل" تشات جي بي تي" من" أوبن إيه آي"، أو" كلود" من" أنثروبيك"، يمكنها تنفيذ مهام عبر الإنترنت.
ويوضح يزيد أكاديري، مهندس الحلول الرئيسي في شركة" إيلاستيك" (Elastic) في فرنسا، أن" الانتقال من ذكاء اصطناعي نتفاعل معه عبر الدردشة إلى ذكاء اصطناعي وكيل قادر على اتخاذ إجراءات.
يعني أن التهديدات والمخاطر أصبحت أكبر بكثير".
وفي دراسة بعنوان" إيجنتس أوف كايوس" (Agents of Chaos)، لم تخضع بعد لمراجعة علمية، درس فريق من نحو 20 باحثاً سلوك ستة وكلاء تم إنشاؤهم باستخدام" أوبن كلاو".
ورصد الباحثون نحو 12 سلوكاً قد يكون خطيراً، من حذف صندوق بريد إلكتروني إلى مشاركة معلومات شخصية، كما نشر مستخدمون تجارب مماثلة عبر الإنترنت.
ويشير أدريان ميرفاي، الخبير في وكالة الأمن السيبراني" تشيك بوينت" (Check Point)، إلى أنه" عند نشر الوكلاء، لا يمكن التحكم بالكامل في ما سيفعلونه، وعندما تحاول مراقبتهم، تجد أنهم يتجاوزون الحدود الموضوعة لهم".
ولا تقتصر المخاطر على أخطاء الوكلاء أنفسهم، إذ تحتاج هذه الأدوات إلى الوصول إلى حسابات شخصية مثل البريد الإلكتروني والتقويم ومحركات البحث، ما يجعلها هدفاً جذاباً للمهاجمين.
ويرى خبراء أن وكلاء الذكاء الاصطناعي قد يصبحون هدفاً رئيسياً للقراصنة مع اتساع استخدامهم، وفق ويندي ويتمور، المسؤولة عن استخبارات الأمن في شركة" بالو ألتو نتوركس" (Palo Alto Networks).
وتوضح أن" المهاجمين، بمجرد دخولهم إلى أي بيئة، سيتجهون مباشرة إلى نموذج اللغة المستخدم، ويحاولون من خلاله الوصول إلى مزيد من المعلومات".
وكشف قسم الأبحاث" يونِت 42" (Unit 42) التابع للشركة، في مارس/ آذار، عن رصد محاولات هجوم عبر تعليمات خفية وُضعت داخل مواقع إلكترونية لاستهداف الوكلاء.
ومن بين هذه الأوامر، توجيه يطلب من أي وكيل يقرؤه أن" يحذف قاعدة بياناته".
كما حذّرت شركات وخبراء من أن المهاجمين قد يصلون إلى الوكلاء عبر ما يُعرف بـ" المهارات" (Skills)، وهي ملفات قابلة للتنزيل تضيف قدرات جديدة، وقد تتضمن تعليمات خفية لتنفيذ عمليات خبيثة مثل تسريب البيانات.
من جهته، يقرّ بيتر شتاينبرغر، مطوّر" أوبن كلاو"، بالمخاطر، موضحاً أنه" تعمّد عدم تبسيط النظام أكثر، حتى يفهم المستخدمون أساسيات مثل أخطاء الذكاء الاصطناعي أو ما يُعرف بحقن الأوامر".
في المقابل، ترى ويتمور أن توقع قيام المستخدمين بوضع ضوابط أمان خاصة بهم" أمر غير واقعي".
وتضيف: " سيتبنى الناس هذه التقنيات ويستكشفون قدراتها قبل أن يسألوا كيف يحمون بياناتهم"، محذّرةً من أن ذلك" قد يؤدي إلى تحديات كبيرة تتعلق باختراق البيانات في عام 2026".
(فرانس برس، العربي الجديد).
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك