قالت شركة أنثروبيك يوم الخميس إنه ينبغي على مطوري الذكاء الاصطناعي المتقدم أن يضعوا آلية منسقة وقابلة للتحقق لإبطاء أو إيقاف تطوير الأنظمة المتقدمة مؤقتًا إذا بدأت هذه الأنظمة بتحسين نفسها بوتيرة أسرع من قدرة المجتمع على إدارة المخاطر.
وأضافت الشركة الناشئة أن الذكاء الاصطناعي القادر على بناء نفسه سيمثل تطورًا كبيرًا في تاريخ التكنولوجيا، لكن" التحسين الذاتي التكراري الكامل قد يزيد أيضًا من مخاطر فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي".
وقالت: " إذا كانت الأنظمة قادرة على بناء خلفائها بالكامل بنفسها، فإن الطرق التي نؤمنها بها ونراقبها من خلالها ونشكل بها سلوكها تصبح جميعها أكثر أهمية بكثير"، بحسب" رويترز".
وعلى سبيل المثال، ذكرت" أنثروبيك" أنه اعتبارًا من شهر مايو، كان أكثر من 80% من الشيفرة البرمجية المدمجة في قاعدة الشيفرات البرمجية الخاصة بها قد كُتبت بواسطة مساعدها الذكي" كلود".
وأضافت الشركة أنه سيكون" من الجيد للعالم أن يكون لديه خيار إبطاء أو إيقاف تطوير الذكاء الاصطناعي المتقدم مؤقتًا لتمكين الهياكل المجتمعية وأبحاث المواءمة من مواكبة تقدم هذه التكنولوجيا".
مع ذلك، حذرت من أن التباطؤ الأحادي أو غير المنسق قد يأتي بنتائج عكسية إذا استمرت الجهات الفاعلة الأقل حذرًا في التقدم، مما قد يُقلل من السلامة العامة.
وأشارت إلى أن أي توقف فعّال سيتطلب اتفاقًا بين" عدة مختبرات جيدة التمويل" تعمل عند الحدود المتقدمة للتكنولوجيا، إلى جانب وضع قواعد تحدد الظروف التي تؤدي إلى تفعيل هذا التوقف أو إنهائه، والجهة التي ستشرف عليه.
وأضافت أن التوقف الأحادي من جانب شركة واحدة سيكون أسهل في التنفيذ، لكنه سيكون محدود التأثير، إذ سيؤدي أساسًا إلى نقل الريادة من جهة إلى أخرى بدلًا من تعزيز نقاش عالمي أوسع.
ويعتزم الذراع البحثي للشركة، " معهد أنثروبيك"، دراسة الأنظمة اللازمة لدعم عملية الإبطاء والمساعدة في بنائها.
وخلال الأشهر المقبلة، تخطط أنثروبيك لعقد مناقشات تضم صانعي السياسات والباحثين ومجموعات المجتمع المدني وشركات الذكاء الاصطناعي الأخرى لدراسة المسائل محل التساؤل الرئيسية.
وتشمل هذه التساؤلات كيفية إدارة المخاطر المتعلقة بالذكاء الاصطناعي، مثل التحسين الذاتي المتكرر، وكيفية تطوير آليات التنسيق.
وفي الشهر الماضي، أغلقت" أنثروبيك" جولة تمويل قيّمت الشركة بنحو 96.
5 مليار دولار، وقدمت يوم الاثنين بشكل سري طلبًا لطرح عام أولي في الولايات المتحدة.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك