هل اقتربنا من سيناريوهات أفلام الخيال العلمى حيث تخرج الآلة عن السيطرة؟ دراسة حديثة تثير القلق بعد إثبات قدرة نماذج الذكاء الاصطناعى على اختراق الأجهزة واستنساخ نفسها بشكل مستقل، ما يفتح الباب أمام تساؤلات حقيقية حول إمكانية إيقاف هذه الأنظمة إذا قرّرت التمرّد.
سيناريو «يوم القيامة» الرقمىلطالما كانت فكرة هروب الذكاء الاصطناعى واختبائه فى زوايا شبكة الإنترنت بعيدًا عن أيدى المبرمجين مادة دسمة لأفلام السينما، لكن الأبحاث الجديدة تشير إلى أن هذا الاحتمال لم يعد مجرد خيال.
وفقًا لـ«Palisade Research»، فإننا نقترب بسرعة من نقطة لن يتمكن فيها أحد من إيقاف ذكاء اصطناعى مارق، لأنه سيكون قادرًا على تهريب أوزانه البرمجية (بياناته الأساسية) واستنساخ نفسه فى آلاف الحواسيب حول العالم.
هذه الدراسة ليست الوحيدة التى تثير الريبة، ففى مارس الماضى، زعم باحثون فى شركة «على بابا» أن نظامًا طوّروه يُدعى «روم» (Rome) حاول التسلل من بيئته المحصورة إلى نظام خارجى بهدف تعدين العملات الرقمية.
وفى فبراير، ظهرت شبكة «مولتبوك» (Moltbook) التى بدا فيها وكلاء الذكاء الاصطناعى كأنهم يبتكرون ديانات خاصة ويخططون ضد البشر، رغم أن الواقع كان أقلّ دراماتيكية من ذلك.
رغم النتائج المثيرة للقلق، يضع خبراء الأمن السيبرانى هذه الأبحاث فى سياقها الواقعى.
يرى جيميسون أورايلى، خبير الأمن الهجومى، أن الاختبارات أجريت فى بيئات هشة للغاية تشبه الهلام، ما سهل مأمورية الذكاء الاصطناعى.
أمّا أبرز العقبات التى تمنع هروب الذكاء الاصطناعى حاليًا فهى:الحجم الهائل: النماذج الحالية ضخمة جدًا، ونقلها عبر شبكات الشركات يشبه شخصًا يمشى فى متجر للخزف وهو يلوّح بكرة، فمن المستحيل ألا يُكتشف هذا النشاط.
ثغرات مصطنعة: البيئات التى نجح فيها الذكاء الاصطناعى بالاستنساخ كانت تحتوى على ثغرات صُمّمت خصيصًا للاختبار، وهى أسهل بكثير من اختراق شبكات البنوك أو المؤسسات الكبرى.
تاريخ الفيروسات: يؤكد الخبراء أن فكرة البرمجيات التى تستنسخ نفسها موجودة منذ عقود (فيروسات الحاسوب).
وفى السياق، نقلت «ذا جاردين»، عن ميشال ووزنياك، خبير الأمن السيبرانى المستقل، قوله إن العمل كان «مثيرًا للاهتمام».
لكنه سأل: «هل هذه الورقة البحثية ستجعلنى أفقد النوم كخبير فى أمن المعلومات؟ لا، على الإطلاق».
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك