دعوة لكبح جماح الذكاء الاصطناعي قبل خروجه عن سيطرة صانعه

اقترحت شركة أنثروبيك المتخصصة في الذكاء الاصطناعي، وقفا مؤقتا لتطوير أقوى أنظمة الذكاء الاصطناعي، مع ظهور مؤشرات على إمكانية خروج أحدث النماذج عن سيطرة الإنسان.

واعتبرت الشركة المنافسة لعملاق الذكاء الاصطناعي تشات جي بي تي، والتي تتخذ من سان فرانسيسكو مقرا وتقف وراء نموذج" كلود" في تقرير، أن تباطؤا عالميا في تطوير الذكاء الاصطناعي المتقدم" سيكون على الأرجح أمرا إيجابيا"، لكنها حذرت من أنه في حال توقفت شركة واحدة فقط، فسيتسابق المنافسون لتجاوزها.

وأوضحت أن تحقيق وقف فعلي في الوقت نفسه يتطلب موافقة العديد من شركات الذكاء الاصطناعي الكبرى في دول متعددة، ولا سيما الولايات المتحدة والصين، وفقا لقواعد يمكن للجميع التحقق منها.

وواجهت الشركة معارضة من جهات أخرى في القطاع ومسؤولين في البيت الأبيض يرون أن تركيزها على أسوأ السيناريوهات يحمل مبالغة في تقدير المخاطر، مع اتهامها باتباع استراتيجية لإبطاء المنافسين تحت غطاء إثارة المخاوف.

ومع ذلك، أقر البيت الأبيضنموذج" ميثوس" الخاص بشركة أنثروبيك والذي لم يُطرح أمام الجمهور بعد بسبب قدراته في مجال الأمن السيبراني واختراق أقوى الأنظمة الالكترونية، وهو يستخدم حاليا فقط في عدد محدود من المؤسسات.

ويواجه هذا المقترح صعوبة بالغة في واشنطن ووادي السيليكون، حيث اعتبر مسؤولون أمريكيون ومديرو شركات بأن أي تباطؤ في تطوير الذكاء الاصطناعي يهدد بمنح الصين ميزة التقدم.

وقارنت أنثروبيك المشكلة بمعاهدات الحد من الأسلحة النووية، لكنها قالت إن تدريب نماذج الذكاء الاصطناعي بسرية أسهل بكثير من إخفاء الصواريخ، وإغراء الاستمرار في الخفاء سيكون هائلا.

وقالت الشركة إنها تخطط لجمع مسؤولين حكوميين وعلماء وشركات ذكاء اصطناعي متنافسة في الأشهر المقبلة لمعرفة كيفية إنشاء مثل هذا النظام.

وأضافت أنثروبيك أن الدعوة إلى التنسيق تأتي جنبا إلى جنب مع البيانات الداخلية التي تظهر أن الذكاء الاصطناعي يعمل على تسريع تطوير الذكاء الاصطناعي نفسه بشكل كبير.

وحذرت أنثروبيك من أن هذا التسارع قد يؤدي في النهاية إلى ما يسميه الباحثون" التحسين الذاتي المتكرر"، بحيث يصبح نظام الذكاء الاصطناعي قادرا على تعليم نفسه بنفسه دون مساعدة بشرية كبيرة.

وجاء في التقرير" لم نصل إلى هناك بعد، والتحسين الذاتي المتكرر ليس أمرا حتميا"، لكنه حذر من أنه قد يحدث في وقت أقرب مما تتخيله معظم الحكومات والمؤسسات.

ولفتت أنثروبيك إلى أن" الأدلة تشير إلى أن الدور البشري يتقلص في كل خطوة من خطوات عملية تطوير الذكاء الاصطناعي".