في العام الماضي، وخلال اختبارات ما قبل الإصدار، لاحظت شركة أنثروبيك أن نموذج الذكاء الاصطناعي الخاص بها" كلود أوبوس 4" يحاول في كثير من الأحيان ابتزاز المهندسين لتجنّب استبداله بنظام آخر.
ونشرت" أنثروبيك" لاحقاً بحثاً يشير إلى أن نماذج من شركات أخرى واجهت مشاكل مماثلة.
الآن أعلنت الشركة أن السر وراء هذا السلوك الخطر هو في محتوى الإنترنت الذي تدرّب عليه، بحيث يؤثر التصوير الخيالي السلبي للذكاء الاصطناعي على هذه الروبوتات في العالم الحقيقي، ويجعلها فعلاً شريرة.
في منشور مطول حديث على منصة إكس، تكتب" أنثروبيك": " نعتقد أن المصدر الأصلي لهذا السلوك (ابتزاز المهندسين لتجنّب استبداله بنظام آخر) هو نصوص الإنترنت التي تصوّر الذكاء الاصطناعي على أنه شرير ومهتم بالحفاظ على الذات".
وفي منشور مدونة أوضحت الشركة أنه، منذ إصدار كلود هايكو 4.
5، لم تعد نماذج الشركة" تلجأ إلى الابتزاز (أثناء الاختبار)، بينما كانت النماذج السابقة تفعل ذلك أحياناً بنسبة تصل إلى 96% من الوقت".
وتقول الشركة إن التحسّن جاء من خلال" الوثائق المتعلقة بتكوين كلود، والقصص الخيالية عن الذكاء الاصطناعي"، وكذلك" تعليم كلود شرح سبب كون بعض الإجراءات أفضل من غيرها، أو التدريب على أوصاف أكثر ثراءً لشخصية كلود بشكل عام".
ولاحظت أن تدريس المبادئ الكامنة وراء السلوك المناسب قد يكون أكثر فعالية من التدريب على مظاهر هذا السلوك فقط، وترى أنه" يبدو أن الجمع بين الأمرين هو الاستراتيجية الأكثر فعالية".
يُذكر أن" أنثروبيك" شركة تحرص على الحفاظ على صورتها كمالكة للذكاء الاصطناعي الأخلاقي، فقد رفضت الموافقة على مطالب وزارة الدفاع الأميركية بالموافقة على الاستخدام العسكري غير المشروط للتكنولوجيا التي تنتجها، وأبرزها روبوت كلود، حتّى في حال تعارضه مع مبادئها الأخلاقية.
وهو رفض جاء على الرغم من تهديدات الوزير بيت هيغسيث بفرض عقوبات عليها.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك