الوجوه التعبيرية النصية قد تُحدث أخطاء صامتة في نماذج الذكاء الاصطناعي

أظهرت دراسة علمية حديثة أن الوجوه التعبيرية النصية البسيطة مثل «: -)» أو «: P» قد تُحدث التباساً دلالياً لدى نماذج اللغة الكبيرة، ما يؤدي أحياناً إلى فهم غير دقيق لنية المستخدم، حتى وإن بدت المخرجات صحيحة من حيث الصياغة.

وذكر موقع «ScienceDaily» المعني بنشر أحدث الأبحاث العلمية، أن هذه الرموز تعتمد على تسلسل أحرف «ASCII» وتحمل معاني سياقية تختلف باختلاف الثقافة وسياق الاستخدام، إلا أن نماذج الذكاء الاصطناعي لا تتعامل معها دائماً بوصفها إشارات تعبيرية، بل قد تفسرها كنص حرفي، ما يفضي إلى ما وصفه الباحثون بـ«الأخطاء الصامتة».

وطوّر فريق البحث إطاراً آلياً لاختبار تأثير هذه الرموز على أداء النماذج، مستخدماً 3757 حالة اختبار ضمن سيناريوهات برمجية متعددة اللغات، وأظهرت النتائج تسجيل أخطاء في 38 بالمئة من الحالات عند تضمين وجوه تعبيرية نصية، فيما شكلت حالات «الفشل الصامت» أكثر من 90 بالمئة من مجمل الإخفاقات، إذ تنتج مخرجات تختلف في وظيفتها عما قصده المستخدم.

وأشارت الدراسة إلى أن هذا الالتباس قد يمتد إلى أنظمة «الوكلاء الأذكياء» المعتمدة على النماذج اللغوية، ما قد يؤدي إلى تضخيم الأخطاء عبر سلاسل قرارات آلية متتابعة، في وقت تُستخدم فيه هذه الرموز على نطاق واسع في المحادثات الرقمية لنقل المشاعر والنوايا.

وأعدّت الدراسة المتاحة على منصة arXiv.

org، التابعة لجامعة كورنيل الأمريكية والمتخصصة بنشر الدراسات العلمية المبدئية، من قبل فريق من الباحثين في مجال علوم الحاسوب بالجامعة تضمن Weipeng Jiang وXiaoyu Zhang وJuan Zhai وShiqing Ma وChao Shen وYang Liu.