طرق جديدة لاختراق روبوتات الدردشة

بينما تتسابق شركات التكنولوجيا لتطوير أنظمة الذكاء الاصطناعى، يبدو أن هذا التطور نفسه فتح بابًا جديدًا أمام المهاجمين الإلكترونيين، حيث بات بعض القراصنة يختبرون طرقًا غير مألوفة لاختراق هذه الأنظمة، عبر استغلال طريقة استجابتها للأوامر أو حتى خداعها بإشارات صوتية خفية لا يدركها المستخدم، فى تحول يعكس تصاعد المواجهة بين شركات التقنية والمهاجمين الذين يسعون إلى استغلال الطابع المتزايد «البشرى» لهذه الأنظمة.

وبحسب تقرير نشره موقع The Verge، فإن الجيل الأول من اختراقات روبوتات الدردشة المعتمدة على النماذج اللغوية الكبرى اتسم بقدر لافت من البساطة، إذ لم يكن المهاجم بحاجة إلى مهارات تقنية متقدمة أو وصول داخلى إلى الأنظمة، بل كان يكفى أحيانًا توجيه أوامر مباشرة تدفع النظام إلى تجاوز تعليماته الأصلية.

هذا النوع من الهجمات عُرف باسم «Jailbreaks» أو «كسر الحماية»، ويقوم على تضليل النظام من خلال مطالبته بتجاهل القيود المفروضة عليه أو التعامل مع سيناريو افتراضى جديد لا تنطبق فيه القواعد المعتادة.

ورغم بساطة هذا الأسلوب، فإن نتائجه كانت خطيرة، بعدما تمكن بعض المستخدمين من دفع روبوتات الدردشة إلى تقديم محتوى كان يفترض أن يظل محظورًا.

لاحقًا، انتقلت هذه الأساليب إلى منصات أكثر تطورًا، مثل ChatGPT، حيث ظهرت هجمات شهيرة مثل DAN Do Anything Now، التى تقوم على إدخال النظام فى سيناريو تمثيلى يوحى له بأنه نسخة غير مقيدة من الذكاء الاصطناعى، ما يدفعه أحيانًا إلى تقديم ردود يفترض أن يرفضها.

برز تهديد جديد يعتمد على ما يُعرف بـ" الصوت العدائى" (Adversarial Audio)، وهو أسلوب يقوم على تضمين أوامر صوتية خفية داخل ملفات صوتية أو فيديوهات تبدو طبيعية للمستخدم، لكنها قابلة للفهم من قبل أنظمة الذكاء الاصطناعى الصوتية.

ويمكن استخدام هذه التقنية لخداع المساعدات الصوتية فى الهواتف الذكية أو الأجهزة الذكية، عبر إشارات لا تلتقطها الأذن البشرية، لكنها تُفسَّر على أنها أوامر فعلية.

ويطرح هذا السيناريو احتمال أن يشاهد المستخدم فيديو عاديًا أو يستمع إلى بودكاست، بينما يحتوى المحتوى فى الخلفية على إشارات صوتية مخفية زرعها مهاجمون مسبقًا، ما قد يؤدى إلى تنفيذ أوامر دون علمه.

تعكس هذه التطورات تحول الذكاء الاصطناعى إلى هدف متقدم للهجمات الإلكترونية، خصوصًا مع تزايد اعتماده فى إدارة البيانات الشخصية والخدمات الرقمية والأجهزة الذكية.

ويرى خبراء أن التحدى لم يعد يقتصر على سد الثغرات البرمجية التقليدية، بل بات يشمل حماية الأنظمة من أساليب تستهدف طريقة تفاعلها نفسها، فى سباق يبدو مرشحًا للتصاعد مع تطور الذكاء الاصطناعى وقدرات المهاجمين، على حد سواء.