خبيرة في تكنولوجيا المعلومات: الذكاء الاصطناعي لم يخرج عن السيطرة ونحتاج لضوابط صارمة

أكدت الدكتورة نيفين مكرم نائب رئيس الجمعية المصرية لنظم المعلومات وتكنولوجيا الحاسبات، أن الذكاء الاصطناعي لا زال تحت سيطرة البشر، إلا أن سرعته الكبيرة في التطور تفرض ضرورة وضع ضوابط وقواعد واضحة لضمان استخدامه بشكل آمن، مشيرة إلى أن الاعتماد الكامل عليه دون رقابة بشرية قد يمثل خطراً حقيقياً.

وأوضحت خلال لقائها عبر القناة الأولى، أن الإنسان يجب أن يظل هو صاحب القرار فيما يُعرف بـ«الإنسان في الحلقة»، إذ إن منح الذكاء الاصطناعي حرية اتخاذ القرار في قضايا مصيرية مثل الحياة أو الموت أو الحرب قد يؤدي إلى خروج النظام عن السيطرة، مؤكدة ضرورة التفرقة بين الخطأ البشري وخطأ الخوارزميات.

التعلم الذاتي والتصرفات غير المتوقعةوأشارت إلى أن أنظمة الذكاء الاصطناعي تعتمد على التعلم الآلي والتعلم العميق، ما يسمح لها بتطوير نفسها من خلال البيانات دون تدخل مباشر من المبرمج، وهو ما قد يؤدي أحياناً إلى نتائج أو تصرفات غير متوقعة، لافتة إلى أن بعض الحالات في المصانع أظهرت سلوكيات خطيرة للروبوتات.

المسؤولية والحوكمة الدوليةوقالت إنّ هناك جدلاً عالمياً حول المسؤولية القانونية عند وقوع أخطاء أو حوادث ناتجة عن الذكاء الاصطناعي، وهل تقع على الشركة المصنعة أم المستخدم؟ ، مشددة على أهمية وجود حوكمة دولية وقوانين ملزمة تنظم تطوير واستخدام هذه التقنيات بما يضمن حماية البشر.