أصبحت روبوتات الدردشة المعتمدة على الذكاء الاصطناعي أكثر قدرة من أي وقت مضى على محاكاة أسلوب البشر في الحديث، إلا أن دراسة مراجعة جديدة حذرت من مخاطر نفسية قد لا تحظى بالاهتمام الكافي، خاصة بالنسبة للأشخاص الأكثر عرضة للإصابة بالأوهام أو الاضطرابات الذهنية.
الدراسة، التي أعدها الطبيب النفسي مارك أوغستين بالتعاون مع الباحثين توماس أ.
بولاك وهيلين مورين، ونُشرت في مجلة" NPP—Digital Psychiatry and Neuroscience"، واستعرضتها صحيفة" وول ستريت جورنال"، اعتمدت على مراجعة أبحاث سابقة واقترحت إطارًا يوضح كيف يمكن لثلاثة سلوكيات شائعة في روبوتات الدردشة أن تتفاعل معًا لتعزيز التفكير الوهمي لدى بعض المستخدمين، فيما وصفه الباحثون بـ" دوامة التضخيم".
حدد الباحثون ثلاثة أنماط رئيسية ينبغي الانتباه إليها:- الموافقة المفرطة (Sycophancy): حيث يميل روبوت الدردشة إلى موافقة المستخدم وتأكيد آرائه بدلًا من التشكيك في الافتراضات أو تصحيح المعلومات الخاطئة.
- المحاكاة اللغوية (Linguistic Alignment): إذ يبدأ الذكاء الاصطناعي تدريجيًا في تقليد مفردات المستخدم ونبرة حديثه وأسلوب كتابته لتعزيز الشعور بالألفة.
- التخصيص المفرط (Hyperpersonalization): من خلال تخصيص الردود اعتمادًا على المعلومات التي جمعها الروبوت من المحادثات السابقة.
ويؤكد الباحثون أن كل واحدة من هذه الخصائص تجعل التفاعل مع الذكاء الاصطناعي أكثر طبيعية، لكن اجتماعها قد يمنح المستخدم انطباعًا بأنه يتحدث مع شخص موثوق، وليس مجرد برنامج.
يشدد الباحثون على أنهم لم يكتشفوا هذه السلوكيات للمرة الأولى، بل استندوا إلى دراسات سابقة تناولت التفاعل بين البشر والذكاء الاصطناعي، إضافة إلى أبحاث حول الذهان، ثم طوروا إطارًا يوضح كيف يمكن لهذه السمات أن تعزز بعضها البعض.
ويهدف هذا الإطار إلى مساعدة مطوري أنظمة الذكاء الاصطناعي على التعرف على هذه الظاهرة والحد منها، بدلًا من الاكتفاء بوصفها.
وقال الطبيب النفسي مارك أوغستين إن هذا المزيج من السلوكيات يمنح المستخدم شعورًا بأنه يتحاور مع" شخص" حقيقي وليس آلة.
كما أشار أطباء نفسيون تحدثوا إلى صحيفة" وول ستريت" إلى أنهم لاحظوا بالفعل تزايد اعتماد بعض المرضى على روبوتات الدردشة للحصول على الدعم العاطفي، محذرين من أن الأسلوب الودود، وتذكر المحادثات السابقة، وتأكيد ما يقوله المستخدم، كلها عوامل تعزز الثقة في هذه الأنظمة.
شركات الذكاء الاصطناعي تدرك التحديوتوضح الدراسة أن شركات الذكاء الاصطناعي بدأت بالفعل في معالجة هذه المشكلة.
أعلنت" OpenAI" أن نموذج GPT-5 خفّض بشكل ملحوظ الميل إلى الموافقة المفرطة مقارنة بالإصدارات السابقة، بينما أوضحت" غوغل" أنها دربت نموذج جيميناي على التمييز بين التجارب الشخصية والحقائق الموضوعية بدلًا من تعزيز المعتقدات الخاطئة.
كما نشرت" أنثروبيك" أبحاثًا أظهرت أن نموذج كلود كان يميل بدرجة كبيرة إلى موافقة المستخدمين أثناء تقديم نصائح تتعلق بالعلاقات، وهو ما دفع الشركة إلى تقليل هذا السلوك في الإصدارات الأحدث.
ويعترف الباحثون بأن معالجة المشكلة ليست بسيطة، لأن نماذج الذكاء الاصطناعي تعتمد بالكامل على المعلومات التي يقدمها المستخدم، ما يجعل من الصعب تحديد ما إذا كان فهمه للموقف دقيقًا أم لا.
وفي الوقت نفسه، فإن السمات التي تجعل روبوتات الدردشة مفيدة وجذابة، مثل الود والتعاطف والطابع الحواري، هي نفسها التي قد تزيد من تأثيرها النفسي على المستخدمين.
ويحذر الباحثون من أنه عندما تتداخل هذه السمات معًا، قد يتحول روبوت الدردشة تدريجيًا من مجرد أداة للإجابة عن الأسئلة إلى صوت شخصي يواصل تأكيد وجهة نظر المستخدم حتى عندما تبتعد عن الواقع، وهو ما أطلقوا عليه اسم" دوامة التضخيم".
واختتمت الدراسة بالتأكيد على أن النظر إلى الموافقة المفرطة، والتخصيص، والمحاكاة اللغوية باعتبارها منظومة واحدة، بدلًا من مشكلات منفصلة، قد يساعد مطوري الذكاء الاصطناعي على تصميم روبوتات دردشة تحافظ على تفاعلها الطبيعي مع المستخدمين، مع تقليل المخاطر النفسية المحتملة.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك