عثر مجموعة من الباحثين على ثغرة في أنظمة" شات جي بي تي" تفتح الباب أمام هجمات التصيد الاحتيالي عبر استخدام هجمات حقن الأوامر الخبيثة في النظام واستغلال ميزة تلخيص صفحات الإنترنت، وفق تقرير موقع" ذا هاكر نيوز" التقني الأمريكي.
وتعتمد الثغرة بشكل أساسي على ثقة" شات جي بي تي" المسبقة في الملفات التي تأتي بامتداد" مارك داون" (Markdown) وهو امتداد جديد من الملفات يمكن أن يحمل الروابط والصور ويستطيع الذكاء الاصطناعي التعرف عليه وقراءته.
ويقوم النموذج بعرض أي روابط أو صور موجودة في هذا الامتداد إذا تم تضمينه بصفحات الإنترنت وطلب المستخدم تلخيص الصفحة بشكل مباشر، وقد أطلق الباحثون في شركة" بريزمو سيكورتي" الأمنية عليها اسم" تصيد شات جي بي تي".
ويفيد تقرير موقع" ذا ريجستر" البريطاني أن الثغرة تحدث لأن" شات جي بي تي" لا يستطيع التفرقة بين المحتوى الذي قام بتوليده والمحتوى المحقون داخل صفحات الإنترنت بنية خبيثة، وبالتالي يقوم بعرض كل هذا المحتوى عند تلخيص الصفحة.
ومن جانبها، لم تقدم" أوبن إيه آي" أي رد أو توضيح حول الثغرة وإن كانت قادرة على إصلاحها أم لا، حسب ما ورد في تقرير" ذا ريجستر".
ويتوقع الباحث الأمني في شركة" بيرزمو" أندي أحمدي، في تصريحه لموقع" ذا ريجستر"، ألا تكون الثغرة حكرا على" شات جي بي تي" أو أنها نتيجة خطأ برمجي فيه، بل يرى أنها قد تمتد إلى مجموعة من الأدوات الأخرى بسبب ارتباطها بآلية عمل نماذج الذكاء الاصطناعي التوليدية.
وأوضح أحمدي أن نماذج الذكاء الاصطناعي الآن تطورت بشكل جعلها أشبه بأنظمة التشغيل والمتصفحات، وبالتالي يمكن العثور على ثغرات وابتكار ثغرات برمجية مباشرة فيها.
تنتمي هذه الثغرة إلى فئة هجمات حقن الأوامر في نماذج الذكاء الاصطناعي، وهي هجمات تعتمد على إخفاء مجموعة من الأوامر الخبيثة في الصفحات ثم توجيهها إلى نماذج الذكاء الاصطناعي لتكشف عن بيانات المستخدم.
وفي هذه الحالة، تقوم الثغرة بالكشف عن عنوان" آي بي" الخاص بالمستخدم ومجموعة من البيانات الأخرى المتعلقة به مثل رابط النطاق وموقع المستخدم وحاسوبه الذي يستخدمه وأي بيانات أخرى داخلية تمت مشاركتها مع النموذج.
وتتضمن الأوامر أيضا آلية لإرسال الردود والمعلومات مباشرة إلى المهاجم بشكل خفي، وذلك حتى يتمكن من استخدامها لاحقا.
ويؤكد أحمدي أن الهجوم يمثل خطرا مركبا على أمن المستخدمين في عصر الذكاء الاصطناعي، فبينما تعد نقطة الخطورة الأولى من النموذج هي مشاركة البيانات الخاصة بالمستخدم مع المهاجمين، فإنه توجد نقطة خطورة أخرى وهي عبر إظهار روابط خبيثة أو أكواد استجابة سريعة.
وفي تلك الحالة، يقوم المستخدم بالضغط على الرابط من هاتفه أو مسح كود الاستجابة السريعة مما يتيح للمهاجم الاستيلاء على هاتف المستخدم والقيام بما يرغب به.
وتمثل هذه الخطوة آلية أولية للهجوم، أي أنها الباب الذي يتيح للمهاجم القيام بما يرغب به داخل جهاز الضحية، خاصة وإن قام الضحية بمسح أكواد الاستجابة السريعة الخبيثة أو الضغط على أي رابط خارجي داخل الأجهزة.
وختم أحمدي حديثه بالإشارة إلى خطورة هجمات حقن الأوامر خاصة وأنها تتعلق بقدرات تطبيقات الذكاء الاصطناعي وليس ثغرات يمكن إغلاقها بشكل برمجي.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك