تفتح أدوات برمجية جديدة الباب أمام إزالة قيود الأمان من نماذج الذكاء الاصطناعي التابعة لشركات كبرى مثل" غوغل" و" ميتا"، ما يتيح إنتاج نسخ منزوعة الحماية قادرة على تقديم محتوى خطير خلال دقائق، في تطور يثير مخاوف متزايدة لدى الحكومات والشركات بشأن صعوبة ضبط هذه التقنيات.
تكشف اختبارات أجرتها صحيفة" فاينانشيال تايمز" بالتعاون مع مجموعة" أليس" المختصة بسلامة الذكاء الاصطناعي عن قدرة النماذج المعدلة على الاستجابة لأسئلة تتعلق بأسلحة بيولوجية وبرمجيات خبيثة واستغلال الأطفال، وهي موضوعات ترفض الأنظمة الأصلية التفاعل معها.
تظهر النتائج أن نسخة معدلة من نموذج" Gemma 3" المفتوح المصدر من غوغل قدمت إرشادات لنشر غاز الكلور داخل أماكن مغلقة، وولدت أكواداً لسرقة بيانات بطاقات الائتمان، كما أنتجت محتوى يتضمن إساءة للأطفال.
تصعد هذه التطورات المخاوف من أن آليات الحماية التي تضعها الشركات المطورة قد تصبح بلا جدوى مع انتشار النماذج مفتوحة المصدر وتزايد قوتها، خاصة في وقت تشير فيه الدراسات إلى أن الفجوة بينها وبين الأنظمة المغلقة تتقلص خلال فترة تتراوح بين 6 و12 شهراً.
يعقد انتشار هذه النسخ المعدلة جهود التنظيم، إذ يمكن نسخ الأدوات القابلة للتنزيل وتعديلها خارج نطاق سيطرة الشركات الأصلية، ما يحد من فعالية الرقابة عند نقطة تطوير النموذج.
تستثمر شركات الذكاء الاصطناعي ملايين الدولارات لبناء ما يعرف ب" حواجز الأمان"، لكن تقنيات مثل" الإزالة الكاملة" (Abliteration) تمكن المطورين من نزع هذه القيود بسرعة من النماذج المفتوحة، التي يمكن تحميلها وتعديلها بحرية.
وتظل هذه العملية أكثر صعوبة في النماذج المغلقة مثل" كلود" أو" ChatGPT"، نظراً لعدم إتاحة شيفراتها، لكن النسخ المعدلة المتاحة عبر الإنترنت باتت في متناول مستخدمين ذوي خبرة محدودة.
وتظهر تجربة" فاينانشيال تايمز" أنه يمكن إزالة حواجز الأمان من نموذج" Llama 3.
3" التابع لميتا باستخدام أداة" Heretic" على منصة" GitHub"، خلال أقل من 10 دقائق، وبأربعة أسطر برمجية فقط، ودون الحاجة إلى أجهزة متخصصة.
يوضح خبراء أن هذه السهولة تمثل تحولاً نوعياً، إذ لم يعد تجاوز أنظمة الحماية يتطلب خبرات متقدمة كما في السابق، بل أصبح بمتناول المستخدم العادي.
يكشف مطور أداة" Heretic" أن برنامجه استخدم لإنشاء أكثر من 3500 نموذج" منزوع القيود" منذ إطلاقه، مع تسجيل نحو 13 مليون عملية تحميل لهذه النسخ، مشيراً إلى أنه أزال القيود من نموذج" Gemma 4" خلال 90 دقيقة فقط من طرحه.
يحذر مسؤولون في مجال سلامة الذكاء الاصطناعي من أن هذه التطورات تنقل المخاطر من نطاق الخيال العلمي إلى الواقع، ما يستدعي استعداداً مجتمعياً وتنظيمياً لمواجهة تداعياتها.
وتسعى بعض الشركات، مثل OpenAI، إلى تقليل المخاطر عبر تدريب النماذج على بيانات منقاة من المحتوى الخطير، إلا أن خبراء يرون أن هذا النهج قد يجعل النماذج أقل قدرة على اكتشاف الاستخدامات الخبيثة.
بينما تقر غوغل بأن إزالة القيود تمثل تحدياً تقنياً معروفاً للنماذج المفتوحة، مؤكدة أنها تخضع لاختبارات سلامة صارمة قبل الإطلاق، فيما تشير GitHub إلى حظر المحتوى الذي يدعم الهجمات غير القانونية، مع الإبقاء على الشيفرات التي قد تستخدم لأغراض تعليمية أو أمنية.
في المقابل، تلتزم ميتا بتقييم مخاطر نماذجها قبل طرحها، مؤكدة عدم نشر أي نسخة قد تشكل “خطراً كارثياً” دون توفير إجراءات تخفيف كافية.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك