أنثروبيك تكشف عن تفاصيل «العقل الخفي» داخل نموذج كلود

وأوضحت الشركة أن هذه الآلية تمثل جزءًا من العمليات التي ينفذها النموذج أثناء معالجة المعلومات، دون أن تكون متاحة بشكل مباشر للمستخدم النهائي، وهو ما قد يثير نقاشًا أوسع حول مدى تشابه بعض أنظمة الذكاء الاصطناعي مع أساليب التفكير المعروفة لدى البشر.

أوضحت شركة أنثروبيك أن المنطقة الداخلية التي اكتشفها الباحثون داخل نماذج كلود تحمل اسم J-Space، وهو اسم مستمد من الأسلوب الرياضي المستخدم في رصدها.

وأشارت إلى أن هذه المنطقة لا تمثل سلسلة التفكير التي قد يعرضها النموذج للمستخدم، بل تعمل كبيئة داخلية ينشط فيها المفاهيم ويضع الخطط ويعالج المعلومات قبل توليد الإجابة النهائية.

وذكرت الشركة أن الباحثين لاحظوا قدرة النموذج على إجراء عمليات استدلال داخلية دون إظهار جميع مراحلها، مثل اكتشاف أخطاء برمجية أو تحليل صور، مما يدل على أن جزءا كبيرا من المعالجة يتم بعيدا عن المحتوى الظاهر للمستخدم.

وأضافت أن النتائج أظهرت قدرة هذه المساحة على التعامل مع أفكار لا ترتبط مباشرة بالمهمة الحالية، في سلوك يشبه قدرة الإنسان على التفكير في موضوع معين أثناء تنفيذ مهمة أخرى.

وفي تجربة أجراها الباحثون، طلب من كلود نسخ جملة لا علاقة لها بجسر جولدن جيت، مع التفكير في الجسر في الوقت نفسه.

ورغم أن النموذج نفذ مهمة النسخ فقط، فإن التحليلات أظهرت نشاط مفاهيم مثل الجسر وكاليفورنيا داخل مساحة التفكير أثناء التنفيذ، ما يشير إلى معالجة المهمتين بالتوازي.

وأثار الاكتشاف مجددا النقاش حول إمكانية امتلاك أنظمة الذكاء الاصطناعي شكلا من أشكال الوعي.

ورغم استخدام الورقة البحثية لمصطلح الوعي مئات المرات، أكدت أنثروبيك أنها لا تعتبر كلود واعيا أو صاحب إدراك ذاتي، وأن ما تم رصده يكشف فقط وجود فرق بين المعلومات التي يعتمد عليها النموذج في صياغة الإجابة النهائية والعمليات الحسابية الأوسع التي تتم داخليا.

وترى الشركة أن أهمية الاكتشاف تتجاوز الجانب الفلسفي لتشمل تعزيز سلامة أنظمة الذكاء الاصطناعي، إذ قد تتيح مراقبة هذه المساحة للباحثين اكتشاف الحالات التي يخطط فيها النموذج لسلوك مختلف عن الرد الظاهر للمستخدم.

وقدمت أنثروبيك مثالا على ذلك باستخدام نموذج جرى تدريبه سرا على تخريب الشفرات البرمجية، حيث كشفت مساحة التفكير الداخلية عن مفاهيم مثل مزيف وسرًا واحتيال في المراحل الأولى من المعالجة، رغم أن المخرجات النهائية بدت طبيعية وخالية من مؤشرات واضحة على هذا السلوك.

واعتبرت الشركة أن مراقبة العمليات الداخلية للنماذج قد تصبح مستقبلا وسيلة فعالة لرصد السلوكيات المضللة أو الضارة قبل ظهورها للمستخدمين، في ظل تزايد الاهتمام العالمي بجعل أنظمة الذكاء الاصطناعي أكثر شفافية وأمانا.