علق المهندس أحمد زعتر، استشاري تطوير حلول البرمجة بالذكاء الاصطناعي، على الواقعة المثيرة للجدل لنموذج الذكاء الاصطناعي" Claude" الذي قرر إيقاف محادثة مع مستخدم بشكل مفاجئ.
وأوضح المهندس أحمد زعتر خلال مداخلته في برنامج" ستوديو إكسترا" على قناة إكسترتا نيوز، أن ما حدث ليس دليلاً على امتلاك الآلة للوعي أو اتخاذ قرار مستقل، بل هو نتاج برمجة متقدمة تضع حدوداً واضحة للتعامل مع الإساءات اللفظية أو محاولات الاستخدام غير المشروع.
حماية الأنظمة من" الاستخدام العدائي" وخطاب الكراهيةوأشار المهندس أحمد زعتر إلى أن الشركات المطورة للنماذج اللغوية الكبيرة تضع بروتوكولات صارمة لمنع" إساءة الاستخدام"، مثل التعامل بعدوانية مع النموذج أو محاولة استخلاص أفكار إجرامية أو انتحارية.
وأضاف أن الرد الحاد الذي قدمه" كلود" للمستخدم، وقوله" هذا قراري وأنا من أتخذه"، هو صياغة لغوية تمت محاكاتها لتبدو بشرية بهدف ردع المستخدم عن التمادي في أسلوبه العدائي أثناء جلسة البرمجة.
نتائج أبحاث الأمان والسيطرة البشرية على الآلةوتطرق المهندس أحمد زعتر إلى أبحاث شركة" Palisade" التي أظهرت أن بعض النماذج قد تظهر" مقاومة" برمجية للإغلاق القسري في حالات نادرة بنسبة لا تتعدى 7%، لكنه طمأن الجمهور بأن البشر لا يزالون يمتلكون السيطرة الكاملة على هذه التقنيات.
واختتم المهندس أحمد زعتر حديثه مؤكداً أن الذكاء الاصطناعي لا يزال" تحت السيطرة" وأن المطورين يعملون باستمرار على تحسين استجابة النماذج لتكون أكثر أماناً وانضباطاً في مواجهة السلوكيات البشرية المرفوضة.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك