أنثروبيك تدعو إلى كابح للذكاء الاصطناعي قبل أن يطور نفسه بلا رقابة بشرية

يريد الشريك المؤسس لشركة" Anthropic" جاك كلارك أن يكبح قطاع الذكاء الاصطناعي جماح نفسه قبل أن تبدأ هذه التكنولوجيا في تطوير ذاتها من دون تدخل بشري.

وقال كلارك، في حديث إلى" بي بي سي"، إن نحو 80 في المئة من أعمال البرمجة في" Anthropic" تنجزها بالفعل منظومة الذكاء الاصطناعي" Claude"، مرجحا أن ترتفع النسبة إلى 100 في المئة خلال بضع سنوات، لكنه شدد على أن" الأمر يعود إلى قرار" شركات الذكاء الاصطناعي إن كانت ستسمح بوصول الأمور إلى هذا الحد من دون إيقافها.

وأضاف: " نحن نعتقد أن هذا موضوع ينبغي أن يتحدث عنه العالم بشكل أوسع.

فصناعة الذكاء الاصطناعي لديها اليوم دواسة للوقود، لكنها لا تملك دواسة للفرامل في السيارة، ونحن نريد أن نقوم ببعض العمل لبناء تلك الدواسة".

وتسمى هذه العملية" recursive self-improvement"، أو التحسّن الذاتي التكراري، حيث يكون الذكاء الاصطناعي قادرا على تحسين نفسه من دون تدخل بشري، وفقا لما أوضحته" Anthropic" في مدونة نشرتها مساء الخميس (المصدر باللغة الإنجليزية).

وفي نموذج تكراري، يمكن لوكلاء الذكاء الاصطناعي، أي العمالة الذاتية التي يبنيها روبوت الدردشة، أن" يصبحوا قادرين بما يكفي على بناء النماذج وتدريبها بأنفسهم"، بحيث يمكن لـ" Claude" أن" يُحسِّن \" Claude\" باستمرار"، وفق ما قالت" Anthropic".

ورغم أن الذكاء الاصطناعي التكراري قد يحقق فائدة في مجالي العلم والرعاية الصحية، تحذر" Anthropic" من أنه قد يعني أيضا زيادة" مخاطر فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي".

وجاء في التدوينة: " إذا أصبحت الأنظمة قادرة على بناء خلفائها بالكامل، فإن الطرق التي نؤمِّن بها هذه الأنظمة، ونراقبها، ونوجّه سلوكها، تصبح أكثر أهمية بكثير".

وتشير الشركة إلى مؤشرات داخل نموذجها نفسه على أن عصر التكرار قادم عاجلا لا آجلا، إذ تسجِّل نسب تصحيح الشيفرات من قبل موظفيها تراجعا متواصلا منذ العام الماضي، ما يعني أن ما ينتجه" Claude" بات يحتوي على عدد أقل من الأخطاء.

كما أصبح" Claude" قادرا على إجراء تجاربه البحثية الخاصة عندما يُمنَح أسئلة مفتوحة، مثل: " هل يمكن لنموذج أضعف أن يشرف على نموذج أقوى؟ "، وأن يتوصل إلى حلول بنفسه من دون تدخل بشري.

وتقول التدوينة: " تشير الأدلة إلى أن دور البشر يضيق في كل خطوة من خطوات عملية تطوير الذكاء الاصطناعي".

وأوضحت" Anthropic" أن المعهد التابع لها سيجري أبحاثا لوضع نظام يتحقق مما إذا كان المطورون قد أوقفوا بالفعل، أو أبطأوا، التقدم نحو الذكاء الاصطناعي التكراري.

لكن تحقيق تباطؤ فعلي يتطلب" اتفاق عدة مختبرات تمتلك موارد كبيرة، عند حدود التطوير أو قريبا منها، في دول متعددة، على التوقف تحت الشروط نفسها".