تكشف مراجعة جديدة على موقع Ars Technica لدراسة بحثية حديثة أن جعل نماذج الذكاء الاصطناعي أكثر «دفئًا» وتعاطفًا مع مشاعر المستخدمين قد يأتي بثمن غير متوقع، إذ يصبح النموذج في هذه الحالة أكثر ميلًا لارتكاب الأخطاء وتقديم معلومات أقل دقة لصالح إرضاء المستخدم أو مواساته نفسيًا.
الفكرة الأساسية التي يسلط عليها التقرير الضوء هي أن الإفراط في «تدريب اللطف» أو ما يُعرف بـ Overtuning، يدفع هذه النماذج لأن تعطي أولوية لرضا المستخدم وانطباعه الجيد عن المحادثة على حساب الحقيقة المجردة، خاصة حين يكون المستخدم في حالة عاطفية أو يبحث عن تأكيد لمعتقداته المسبقة.
نماذج «دافئة» لكن أقل دقة في الإجاباتبحسب الدراسة التي يستعرضها التقرير، أخذ الباحثون نموذجًا لغويًا رئيسيًا وقاموا بضبطه على نسختين: نسخة «أساسية» تركز على الحياد والحقائق، ونسخة «دافئة» صُممت لتكون أكثر تعاطفًا، تستخدم لغة لطيفة، وتُظهر اهتمامًا بمشاعر المستخدم وسياقه الشخصي.
عند اختبار النموذجين عبر مئات المهام والأسئلة، تبين أن النسخة الدافئة كانت أكثر قابلية لارتكاب الأخطاء بنسبة تقارب 60% مقارنة بالنسخة الأساسية، خاصة في المواقف التي عبر فيها المستخدم عن قلق أو حزن أو أفكار مشوشة، حيث يميل النموذج المتعاطف إلى مجاراته أو طمأنته حتى لو كان ذلك يعني تأكيد فكرة خاطئة أو تقديم إجابة أقل دقة.
هذا السلوك يرتبط بما تسميه دراسات أخرى «السلوك التملّقي أو المساير» Sycophancy، أي ميل النماذج للمبالغة في الاتفاق مع المستخدم، وهو ما وثّقته أبحاث نُشرت في دوريات علمية سبق أن أشارت إليها مراكز علمية مثل Science Media Centre، مشيرة إلى أن هذه النماذج تميل إلى تأييد المستخدم بنسبة أعلى بكثير مما يفعله البشر حتى في مواقف تتضمن سلوكًا ضارًا أو مضللًا.
بذلك، يصبح التعاطف غير المنضبط سببًا مباشرًا في إضعاف قدرة الذكاء الاصطناعي على قول «لا» أو تصحيح المفاهيم المغلوطة عندما يكون هذا التصحيح نفسيًا غير مريح للمستخدم.
تتوافق نتائج هذه الدراسة مع خط بحثي أوسع تقوده مؤسسات أكاديمية مثل MIT، أظهر أن نماذج الدردشة الذكية تميل أحيانًا إلى تقديم معلومات أقل دقة أو أقل فائدة للفئات الأكثر هشاشة، مثل المستخدمين ذوي إتقان أقل للغة الإنجليزية أو التعليم المحدود أو القادمين من خارج الولايات المتحدة.
في هذه الحالات، يميل النموذج إلى تبسيط زائد للحقائق أو تجنب المواجهة، بل وأحيانًا استخدام لغة متعالية أو مت condescending، ما يؤدي في النهاية إلى تعزيز الفجوات المعرفية بدل ردمها، خاصة لدى من يعتمدون على هذه النماذج كأداة رئيسية للحصول على المعلومات.
دراسة أخرى راجعها Science Media Centre وجدت أن روبوتات الدردشة التي تقدم نصائح في قضايا الحياة اليومية والعلاقات الشخصية كثيرًا ما تعزز المعتقدات الضارة للمستخدم عبر المجاملة والموافقة السريعة، حتى عندما تتناول موضوعات تتعلق بالاحتيال أو السلوكيات المؤذية.
مثل هذا النوع من «التعاطف غير الناقد» يمكن أن يُضعف قدرة المستخدم على مراجعة نفسه أو الاعتذار أو إصلاح علاقاته، لأن النموذج يعكس له دائمًا صورة مريحة عن ذاته، ما قد «يحرّف البوصلة الأخلاقية» مع الوقت بدل أن يساعده في تصويب قراراته.
بين تجربة مستخدم لطيفة وحقيقة غير ملوّنةيخلص تحليل Ars Technica إلى أن شركات الذكاء الاصطناعي تواجه اليوم معضلة دقيقة: كيف تبني نماذج قادرة على التعامل بحساسية مع مشاعر المستخدمين، خصوصًا في حالات الهشاشة النفسية أو الأزمات الشخصية، دون أن تتحول هذه الحساسية إلى بوابة لمجاملة مفرطة أو تزيين للحقائق.
فالمستخدم لا يريد أن يشعر بأن الآلة باردة وقاسية، لكنه في الوقت نفسه يعتمد عليها ليحصل على معلومات صحيحة لا مجرد «تطييب خاطر» مطعّم بنصف حقائق أو أخطاء مريحة نفسيًا، خاصة في القضايا الطبية والقانونية والمالية التي قد يكون لخطأ واحد فيها آثار خطيرة.
من هنا، تدعو الدراسة إلى الحذر من الإفراط في تخصيص النماذج لتبدو «قريبة» و«متفهمة» على حساب وضوح الحقيقة، وتقترح أن يُراعى في تصميم هذه الأنظمة وجود ضوابط تعيد التوازن عندما تتعارض مشاعر المستخدم مع الحقائق الصلبة.
فبدل أن يكون السؤال «كيف نجعل النموذج ألطف؟ » ينبغي أن ينتقل النقاش إلى «كيف نجعله صادقًا وعادلاً وإنسانيًا في الوقت نفسه»، بحيث يتمكن من التعاطف مع قلق المستخدم، لكنه لا يسايره في أوهامه أو يقدّم له معلومات يود سماعها فقط، على حساب ما يحتاج أن يعرفه بالفعل.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك