العقل الصامت في كلود: هل أصبح للذكاء الاصطناعي "داخل" يمكن مراقبته؟

إيلاف من لندن: طوال سنوات، كان التعامل مع نماذج الذكاء الاصطناعي أشبه بالحكم على عقل من خلال كلماته وحدها.

نسأل، فتجيب.

نختبر دقة الإجابة أو أخطاءها، لكن ما يحدث بين السؤال والجواب ظل، إلى حد كبير، منطقة معتمة.

هذه ليست مشكلة أكاديمية فحسب.

فكلما أصبحت النماذج أكثر قدرة، ازدادت الحاجة إلى فهم الكيفية التي تتخذ بها قراراتها، لا الاكتفاء بالحكم على نتائجها.

ولهذا يلفت أحدث أبحاث شركة أنثروبيك (Anthropic) الانتباه، ليس لأنه يدّعي كشف" عقل" نموذج كلود (Claude)، بل لأنه يحاول الاقتراب من شيء أكثر تواضعًا وأشد أهمية: رؤية جزء من النشاط الداخلي للنموذج أثناء عمله.

إذا نجحت هذه المقاربة، فقد تغيّر الطريقة التي نقيّم بها الذكاء الاصطناعي في السنوات المقبلة.

من مراقبة الإجابات.

إلى مراقبة ما يسبقهااعتمد تقييم النماذج اللغوية حتى الآن على ما يراه المستخدم: هل كانت الإجابة صحيحة؟ هل تضمنت معلومات مضللة؟ هل التزمت بالتعليمات؟لكن هذه الطريقة تشبه تقييم طالب من ورقة الامتحان وحدها، من دون أي فكرة عن الطريقة التي وصل بها إلى الحل.

ما تحاول Anthropic إضافته هو طبقة جديدة من الفهم.

فبدل الاكتفاء بالإجابة النهائية، يسعى الباحثون إلى رصد جزء من العمليات التي تسبقها، وهي خطوة قد تساعد مستقبلًا على تفسير سلوك النماذج، واكتشاف المشكلات قبل أن تظهر في المخرجات.

لا يعني ذلك أن الباحثين أصبحوا يقرأون" أفكار" Claude، كما قد توحي بعض العناوين المتحمسة.

ما توصلوا إليه أكثر محدودية، لكنه أكثر فائدة أيضًا.

التجربة التي أثارت الاهتماملإثبات فكرتهم، أجرى الباحثون تجربة بسيطة في ظاهرها.

طُلب من Claude نسخ جملة عادية، مع تنشيط مفهوم آخر في أثناء تنفيذ المهمة: جسر البوابة الذهبية في سان فرانسيسكو.

لم يظهر اسم الجسر في النص الذي كتبه النموذج، ولم يأتِ على ذكر كاليفورنيا أو أي إشارة مرتبطة بها.

لكن الأداة التي طورتها Anthropic رصدت نشاطًا داخليًا يرتبط بهذه المفاهيم خلال معالجة المهمة.

المغزى ليس أن Claude كان" يفكر في الجسر" بالمعنى البشري، بل أن ما يظهر للمستخدم لا يعكس بالضرورة كل ما يدور داخل النموذج أثناء الوصول إلى الإجابة.

وهذا فارق مهم.

فالنموذج قد يفعّل مفاهيم وسيطة، أو يقارن بين احتمالات مختلفة، أو يستعد لاستخدام معلومات لا تظهر في النص النهائي.

وللمرة الأولى، أصبح بالإمكان رؤية جزء من هذه المرحلة.

تطلق Anthropic على هذه المنطقة الداخلية اسم «فضاء J»، وهي مساحة محدودة داخل النموذج تستطيع أداة بحثية تُعرف باسم J-lens رصد بعض الأنماط النشطة فيها.

الاسم قد يبدو معقدًا، لكنه ليس محور القصة.

فالباحثون لا يقولون إنهم وجدوا" مكان التفكير" داخل Claude، ولا إنهم فتحوا النموذج بالكامل أمامهم.

بل يؤكدون أن ما يرصدونه لا يمثل سوى جزء صغير من النشاط الداخلي، وأن الأداة لا تزال في مراحلها البحثية.

بمعنى آخر، نحن لا نرى النموذج كله، لكننا لم نعد ننظر إليه من الخارج فقط.

لماذا يهم ذلك خارج المختبر؟الأسئلة التي تواجه الذكاء الاصطناعي اليوم لم تعد تدور حول جودة الكتابة أو سرعة الإجابة فقط.

ماذا يحدث إذا بدأ نموذج يُستخدم في كتابة البرمجيات أو تحليل البيانات الطبية أو إدارة الأنظمة المالية في اتباع مسار غير مرغوب داخليًا، بينما تبدو إجاباته النهائية سليمة؟هذا هو السياق الذي تضع فيه Anthropic بحثها.

فإذا أمكن رصد بعض الإشارات الداخلية المرتبطة بمحاولات التلاعب، أو اكتشاف أن النموذج يتعامل مع تعليمات خبيثة، فقد يصبح بالإمكان التدخل قبل أن تتحول تلك العمليات إلى نتائج يراها المستخدم.

ولا تزال هذه الفكرة في بدايتها، لكنها تعكس تحولًا مهمًا في طريقة التفكير في سلامة الذكاء الاصطناعي: لم يعد التركيز على تصحيح الأخطاء بعد وقوعها، بل على فهم ما يحدث قبل ظهورها.

ليس وعيًا.

بل قابلية أكبر للفهممن السهل أن تقود مثل هذه الأبحاث إلى استنتاجات مبالغ فيها عن" وعي" الآلات، لكن الورقة العلمية نفسها تتجنب هذا الطريق.

فـ«فضاء J» ليس دليلًا على أن Claude يمتلك تجربة ذاتية أو إدراكًا شبيهًا بالإنسان، كما أنه لا يمثل النشاط الكامل داخل النموذج.

إنه أداة بحثية تحاول تفسير جزء من العمليات الداخلية، لا أكثر.

وربما تكمن أهمية هذا التحفظ في أنه يوجّه النقاش إلى المكان الصحيح.

فالسؤال الذي يواجه مطوري الذكاء الاصطناعي اليوم ليس: هل أصبحت النماذج واعية؟بل: هل يمكن الوثوق بأننا نفهم كيف تعمل، خصوصًا عندما تُستخدم في تطبيقات لا تحتمل الخطأ؟شهد العقد الماضي سباقًا محمومًا لبناء نماذج أكبر وأكثر قدرة.

أما اليوم، فيبدو أن السباق بدأ يكتسب بعدًا جديدًا.

لم يعد يكفي أن يكون النموذج قويًا.

بل أصبح مطلوبًا أن يكون مفهومًا أيضًا.

وهذا ما يمنح أبحاثًا مثل «فضاء J» أهميتها.

فهي لا تعد بإزالة الغموض الذي يحيط بالذكاء الاصطناعي، لكنها تشير إلى أن الصناعة بدأت تنتقل من مرحلة بناء النماذج إلى مرحلة محاولة فهمها.

قد يكون ذلك التحول أكثر تأثيرًا على مستقبل الذكاء الاصطناعي من أي زيادة جديدة في عدد المعلمات أو سرعة الاستجابة.

وربما تكون قيمة هذا البحث، في مرحلته الراهنة، أنه لا يقدّم جوابًا نهائيًا عن كيفية عمل النماذج، بل يفتح طريقًا أكثر دقة لطرح السؤال.

فما كشفته Anthropic ليس خريطة كاملة لما يجري داخل Claude، وإنما إشارة إلى أن بعض نشاطه الداخلي قد يصبح قابلًا للرصد والاختبار.

أما ما إذا كانت هذه الأدوات ستقود فعلًا إلى نماذج أكثر أمانًا ووضوحًا، فذلك ما سيحسمه البحث اللاحق، لا الحماسة المبكرة.