أطلق جاك كلارك، الشريك المؤسس لشركة" أنثروبيك" تحذيرا بشأن المسار المتسارع لتطور تقنيات الذكاء الاصطناعي، مشيرا إلى أن العالم قد يقترب من مرحلة تصبح فيها الأنظمة الذكية قادرة على تطوير وتدريب نفسها ذاتيا دون الحاجة إلى تدخل بشري، وهو ما قد يثير مخاوف بشأن فقدان السيطرة على هذه التقنيات.
وفي مقابلة مع هيئة الإذاعة البريطانية «بي بي سي»، كشف كلارك أن نحو 80% من أعمال البرمجة داخل الشركة تنفذ حاليا بواسطة نموذج الذكاء الاصطناعي" Claude"، موضحا أن هذه النسبة قد تصل إلى 100% خلال العامين المقبلين إذا استمرت وتيرة التطور الحالية.
وأكد أن الوصول إلى هذه المرحلة ليس أمرا حتميا، بل قرار يمكن للشركات المطورة للذكاء الاصطناعي أن تتخذه، سواء بالسماح للتكنولوجيا بمواصلة التقدم أو بوضع ضوابط تحد من هذا المسار.
اقرأ أيضا| روبوتات تحضر القهوة وكلاب عسكرية ذكية.
تقنيات خطفت الأنظار في تايوانوقال كلارك إن العالم بحاجة إلى نقاش أوسع حول هذه القضية، معتبرا أن قطاع الذكاء الاصطناعي يمتلك حاليا دواسة تسارع قوية تدفع نحو مزيد من التطور، لكنه لا يمتلك بالقدر نفسه أدوات أو آليات فعالة لإبطاء هذا التقدم عند الضرورة.
ما هو التحسين الذاتي التكراري؟وتتمحور المخاوف حول ما يعرف باسم التحسين الذاتي التكراري وهي عملية يصبح فيها نظام الذكاء الاصطناعي قادرًا على تحسين أدائه وتطوير قدراته بشكل مستقل ومن دون إشراف بشري مباشر.
ووفقًا لما أوضحته الشركة في تدوينة حديثة، فإن وكلاء الذكاء الاصطناعي المستقلين قد يصلون مستقبلا إلى مستوى من الكفاءة يسمح لهم ببناء نماذج جديدة وتدريبها بأنفسهم، ما يفتح الباب أمام دورة متواصلة من التطوير الذاتي.
اقرأ أيضا| الذكاء الاصطناعى يدخل «مرحلة التطبيع»وفي هذا السيناريو، يمكن لنموذج" Claude" أو غيره من الأنظمة المتقدمة أن يعمل على تحسين إصداراته المستقبلية دون الحاجة إلى تدخل المطورين البشريين في كل مرحلة.
فوائد محتملة ومخاطر متزايدةوترى" Anthropic" أن هذا النوع من التطور قد يحمل فوائد كبيرة في مجالات متعددة، من بينها البحث العلمي والرعاية الصحية وتسريع الاكتشافات التقنية.
لكن الشركة حذرت في الوقت ذاته من أن قدرة الأنظمة على تطوير نفسها قد تزيد من احتمالات فقدان البشر السيطرة على سلوك هذه النماذج أو آليات عملها.
وأشارت إلى أن مسألة تأمين الأنظمة الذكية ومراقبتها وتوجيه سلوكها ستصبح أكثر أهمية وتعقيدا إذا وصلت هذه التقنيات إلى مرحلة بناء الأجيال اللاحقة من النماذج بشكل مستقل.
اقرأ أيضا| الخصوبة المدعومة بالذكاء الاصطناعي| كيف تعيد التكنولوجيا صياغة مستقبلمؤشرات على اقتراب المرحلة الجديدةوبحسب الشركة، فإن هناك دلائل متزايدة تشير إلى أن الوصول إلى هذه المرحلة قد يكون أقرب مما يتوقعه كثيرون.
وأوضحت أن معدل تصحيح الأخطاء البرمجية التي ينتجها نموذج" Claude" من قبل الموظفين البشريين يتراجع بشكل مستمر منذ العام الماضي، وهو ما يعكس تحسن جودة الأكواد التي يولدها النظام وانخفاض نسبة الأخطاء فيها.
كما أصبح النموذج قادرا على إجراء تجارب بحثية بصورة مستقلة عند طرح أسئلة مفتوحة عليه، مثل دراسة إمكانية إشراف نموذج ذكاء اصطناعي أقل قدرة على نموذج أكثر تطورا، حيث يستطيع الوصول إلى نتائج وحلول دون تدخل مباشر من الباحثين.
وأكدت الشركة أن الأدلة الحالية تشير إلى تراجع الدور البشري تدريجيًا في العديد من مراحل تطوير أنظمة الذكاء الاصطناعي الحديثة.
جهود لإبطاء التطور عند الحاجةوفي إطار التعامل مع هذه المخاوف، أعلنت" Anthropic" أن معهد الأبحاث التابع لها سيعمل على تطوير أدوات وآليات للتحقق من مدى التزام الشركات المطورة بإبطاء أو إيقاف التقدم نحو أنظمة الذكاء الاصطناعي القادرة على التطوير الذاتي إذا استدعت الحاجة لذلك.
ومع ذلك شددت الشركة على أن أي تباطؤ حقيقي في هذا المجال لن يكون فعالا إلا من خلال توافق جماعي بين المختبرات والشركات الكبرى العاملة في تطوير الذكاء الاصطناعي على مستوى العالم، بحيث تلتزم جميعها بالشروط والضوابط نفسها.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك