لم تعد الطائرات المسيّرة ذاتية التشغيل، التي تعرف كيف تختار أهدافها، وأسراب الروبوتات التي تهاجم دون جنود، وأنظمة الذكاء الاصطناعي التي تتخذ القرارات في ساحة المعركة، ضربًا من الخيال العلمي.
وهنا يبرز أحد أكثر الأسئلة إثارة حول حروب المستقبل: «إذا قتلت الآلة الشخص الخطأ، فمن سيُحاسب؟ ».
يأتي ذلك في وقت أصبحت فيه الطائرات المسيّرة ذاتية التشغيل، والروبوتات الأرضية، والأدوات الذكية تعمل في ساحات المعركة، وتتخذ قراراتها بشكل متزايد بصورة مستقلة، بعدما حولتها الحروب الأخيرة من مجرد إضافة تكنولوجية إلى قوة قتالية حقيقية.
وباتت هذه الأنظمة تنقل المعدات والجرحى، وتجمع المعلومات الاستخباراتية، وتحدد الأهداف، بل أصبحت أحيانًا قادرة على تحديدها ومهاجمتها بمفردها، وفقًا للقناة 12 الإسرائيلية.
وقبل شهرين فقط، أعلن الرئيس الأوكراني فولوديمير زيلينسكي السيطرة على موقع روسي محصن باستخدام أنظمة غير مأهولة فقط، دون وجود جندي بشري واحد.
وأظهرت تقارير أن جنودًا روسًا فضلوا الخروج من ملاجئهم والاستسلام لهذه الأنظمة بدلًا من البقاء، ما جعل المشهد رمزًا لعصر جديد من الحروب.
وتكمن المشكلة في أنه مع ازدياد ذكاء الآلات، تتزايد مسؤولية الإنسان.
فماذا سيحدث إذا حددت طائرة مسيّرة هدفًا وقتلت الشخص الخطأ؟ هل تقع المسؤولية على الجندي، أم القائد، أم المبرمج، أم الشركة، أم الدولة؟قالت القناة 12 إن السؤال لم يعد ما إذا كانت هذه الأنظمة ستُستخدم، بل كيف يمكن ضمان عدم تلاشي المسؤولية داخل الخوارزميات.
وأوضح الباحث بار زوهار أن الأنظمة الحالية باتت قريبة من تنفيذ هجمات محددة ذاتيًا، مثل تحديد مركبة وفق معايير مسبقة واستهدافها.
وأشار إلى اتجاه متزايد نحو مزيد من الاستقلالية واعتماد الذكاء الاصطناعي في اتخاذ القرارات.
وحذر من ما يُعرف بـ«منطقة الانهيار الأخلاقي»، حيث تُلقى المسؤولية غالبًا على المشغل الأخير، بينما تبقى الجهات الأخرى خارج المساءلة.
وأضاف: «الأنظمة لا تعمل وحدها، بل يشارك في تصميمها وبرمجتها وتشغيلها عدة أطراف، ومع ذلك يتحمل الفرد الأخير العبء الأكبر».
لمعالجة هذه المشكلة، طور زوهار نموذجًا يُعرف بـLEGIT، يهدف إلى توزيع المسؤولية على جميع مراحل تطوير واستخدام الأنظمة، مع التأكيد على الشفافية وإمكانية تتبع القرارات.
وشدد على ضرورة أن تكون الأنظمة قابلة للتفسير، وعدم الاحتماء بما يسمى «الصندوق الأسود».
وأوضح تقرير القناة 12 أن استخدام الذكاء الاصطناعي قد يقلل الأخطاء البشرية في بعض الحالات، لكنه يحتاج إلى رقابة صارمة.
وأشار إلى أن التحدي الأساسي في المستقبل لن يكون تقنيًا فقط، بل يتعلق بمن يسيطر على القرار: الإنسان أم الآلة.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك