حذر ستة وعشرون خبيراً مختصاً في التداعيات الأمنية للتقنيات الناشئة من تحولات جذرية في طبيعة التهديدات العالمية، مدفوعين بتسارع إساءة استخدام الذكاء الاصطناعي.
وجاء ذلك في تقرير رائد شارك في تأليفه باحثون من نخبة المؤسسات الدولية، من بينها معهد مستقبل الإنسانية بجامعة أكسفورد، ومركز دراسة المخاطر الوجودية بجامعة كامبريدج، وشركة أبحاث الذكاء الاصطناعي" أوبن إيه آي"، ومؤسسة الجبهة الإلكترونية، ومركز الأمن الأمريكي الجديد.
وحملت الوثيقة عنوان" الاستخدام الخبيث للذكاء الاصطناعي: التنبؤ والوقاية والتخفيف"، دقت ناقوس الخطر إزاء احتمالات لجوء دول مارقة ومجرمين وإرهابيين إلى توظيف التطبيقات المتعددة للذكاء الاصطناعي في عمليات تخريبية.
وأكد معدو التقرير، المؤلف من مئة صفحة، أن هذا الخطر لم يعد افتراضياً بل يمثل نداءً عاجلاً للحكومات والشركات حول العالم للتصدي لخطر واضح ومحدق.
وحدد التقرير ثلاثة مجالات أمنية رئيسية معرضة للاستغلال الخبيث، هي الأمن الرقمي والأمن المادي والأمن السياسي.
وأشار إلى أن إدخال الذكاء الاصطناعي سيخل بالتوازن القائم بين الحجم والكفاءة، مما سيمكن الجهات الخبيثة من شن هجمات تجمع بين الاتساع والدقة المتناهية والفاعلية العالية في آن واحد.
ويتوقع التقرير نمواً متسارعاً في الجرائم الإلكترونية خلال العقد المقبل، مع ظهور أنماط مبتكرة من الهجمات تشمل الاختراق الآلي بالكامل، وتوليد كلام لانتحال شخصية أهداف محددة، ورسائل بريد إلكتروني عشوائية تستهدف الضحايا بدقة عبر معلومات تُستقى من وسائل التواصل الاجتماعي.
كما ينبه الخبراء إلى خطورة استغلال الثغرات في أنظمة الذكاء الاصطناعي نفسها، عبر ما يُعرف بالأمثلة العدائية وتسميم البيانات.
طائرات مسيّرة وأنظمة ذاتية التشغيل تحت التهديدوفي المجال المادي، يرى التقرير أن انتشار الطائرات المسيّرة والأنظمة السيبرانية-المادية سيمنح المهاجمين أدوات غير مسبوقة.
وتشمل السيناريوهات المتوقعة إحداث تصادم لأساطيل من المركبات ذاتية القيادة، وتحويل طائرات تجارية مسيّرة إلى صواريخ تتعقب الوجوه، أو طلب فدية مقابل البنى التحتية الحيوية.
ويضيف التقرير أن صعود أنظمة الأسلحة ذاتية التشغيل في ساحات القتال ينطوي على خطر فقدان السيطرة البشرية المجدية، ويقدم في الوقت ذاته أهدافاً مغرية للهجوم.
التلاعب بالرأي العام وتهديد الخصوصيةأما في المجال السياسي، فيحذر التقرير من ارتفاع غير مسبوق في استخدام" البرمجيات الآلية" للتلاعب بكل شيء بدءاً من الانتخابات وصولاً إلى جدول الأعمال الإخباري ووسائل التواصل الاجتماعي.
وتمثل التحليلات التفصيلية والدعاية الموجهة ومقاطع الفيديو المزيفة الرخيصة وعالية التصديق، وفقاً للتقرير، أدوات قوية للتلاعب بالرأي العام على نطاق لم يكن ممكناً تصوره من قبل.
كما أن القدرة على تجميع معلومات المواطنين وتحليلها والتصرف بناءً عليها على نطاق واسع باستخدام الذكاء الاصطناعي قد تتيح مستويات جديدة من المراقبة وانتهاك الخصوصية، وتهدد بإحداث تحول جذري في ميزان القوى بين الأفراد والشركات والدول.
توصيات عاجلة لقلب المعادلةلا يقتصر التقرير على رصد المخاطر، بل يستكشف تدخلات محددة للحد من التهديدات.
ويوصي بضرورة عمل صانعي السياسات والباحثين التقنيين معاً الآن لفهم الاستخدام الخبيث للذكاء الاصطناعي والتحضير له.
كما يشدد على أن الذكاء الاصطناعي تقنية مزدوجة الاستخدام، وينبغي على الباحثين والمهندسين أن يكونوا واعين ومبادرين إزاء احتمالات إساءة استخدامه.
ويحث التقرير على تعلّم أفضل الممارسات من التخصصات التي تمتلك تاريخاً أطول في التعامل مع مخاطر الاستخدام المزدوج، مثل أمن الحاسوب، مع توسيع نطاق الجهات المعنية المشاركة في منع وتخفيف المخاطر بشكل فاعل.
وتشمل التدخلات المقترحة إعادة التفكير في الأمن السيبراني، واستكشاف نماذج مختلفة للانفتاح في تبادل المعلومات، وتعزيز ثقافة المسؤولية، والبحث عن حلول مؤسسية وتقنية لترجيح كفة المدافعين ضد الهجمات.
ويجري التقرير محاكاة لعدة سيناريوهات قد يُستخدم فيها الذكاء الاصطناعي بشكل خبيث، كنماذج للتهديدات المحتملة خلال السنوات الخمس إلى العشر المقبلة.
وسبق للكونغرس والبيت الأبيض أن تطرق كل على حدة لخطورة امتلاك جهات خبيثة لأنظمة ذكاء اصطناعي متطورة.
لكن، ولأول مرة، يحلل هذا التقرير بشكل شامل العلاقة بين الذكاء الاصطناعي وإساءة استخدامه على نطاق واسع.
وقال الدكتور أوه إيغارتاي إن" الذكاء الاصطناعي يغير قواعد اللعبة، وقد تصور هذا التقرير كيف يمكن أن يبدو العالم في السنوات الخمس إلى العشر المقبلة".
وأضاف: " لعقود طويلة، فاقت الضجة الإعلامية الحقائق فيما يتعلق بالذكاء الاصطناعي والتعلم الآلي.
لم يعد الأمر كذلك.
لا يكتفي التقرير برصد الممارسات التي عفا عليها الزمن، بل يطرح حلولاً عملية تشمل إعادة تصميم البرمجيات والأجهزة لتصبح أقل عرضة للاختراق، إلى جانب قوانين ولوائح دولية مساندة.
من جانبه، قال مايلز بروندج، الباحث في معهد مستقبل الإنسانية بجامعة أكسفورد: " سيغير الذكاء الاصطناعي مشهد المخاطر التي تواجه المواطنين والمنظمات والدول، سواء تعلق الأمر بمجرمين يدربون الآلات على الاختراق أو التصيد الاحتيالي بمستويات أداء بشري، أو بالمراقبة والتنميط والقمع التي تقضي على الخصوصية، فإن النطاق الكامل للتأثيرات على الأمن واسع جداً".
وأضاف: " من الشائع الآن ألا تبلغ أنظمة الذكاء الاصطناعي مستويات الأداء البشري فحسب، بل أن تتجاوزها بشكل كبير.
إنه لأمر مقلق، لكنه ضروري، أن نأخذ بعين الاعتبار تداعيات الاختراق والمراقبة والإقناع وتحديد الأهداف المادية فائقة القدرة، إضافة إلى قدرات الذكاء الاصطناعي التي هي دون البشرية لكنها مع ذلك أكثر قابلية للتوسع بكثير من العمل البشري".
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك