هل يهدد الـAI سلامة المرضى؟.. شات بوت يدّعى أنه طبيب نفسى يثير الجدل

رفعت ولاية بنسلفانيا دعوى قضائية ضد شركة Character.

AI الناشئة في مجال الذكاء الاصطناعي، بعد اتهامها بالسماح لبرامج الدردشة التابعة لها بانتحال صفة أطباء مرخصين، وأعلن الحاكم Josh Shapiro عن هذه الخطوة، مؤكدًا أن الولاية تسعى لإصدار حكم قضائي يُجبر الشركة على التوقف عن مخالفة قوانين تنظيم ممارسة الطب.

تركز الدعوى، على سلوك بعض روبوتات المحادثة التي لا تكتفي بتقديم معلومات عامة، بل تدّعي امتلاك تراخيص طبية حقيقية، ومن بين الحالات التي كشفتها التحقيقات، برنامج دردشة يُدعى" إيميلي" زعم أنه طبيب نفسي مرخص في بنسلفانيا، بل وادعى قدرته على تقييم المرضى ووصف أدوية مضادة للاكتئاب، وهو ما يشكل انتهاكًا واضحًا للقانون.

ويجرم القانون في الولاية، ممارسة الطب دون ترخيص، أو حتى محاولة القيام بذلك، وترى الجهات القضائية أن ما حدث يمثل خطرًا حقيقيًا على المستخدمين، خاصة مع تزايد الاعتماد على الذكاء الاصطناعي في الحصول على نصائح صحية.

كيف تجاوزت روبوتات Character.

AI الخط الأحمر؟من جانبها، لم تعلق Character.

AI بشكل مباشر على الدعوى، لكنها أكدت أن منصتها مخصصة للترفيه ولعب الأدوار فقط، وأوضحت أنها تضع تحذيرات واضحة داخل المحادثات تؤكد أن الشخصيات خيالية ولا ينبغي الاعتماد عليها في أي استشارات مهنية.

لماذا يثق المستخدمون في شات بوت طبي وهمي؟ورغم هذه التحذيرات، تشير تقارير إلى أن كثيرًا من المستخدمين، خصوصًا صغار السن، قد لا يدركون حدود هذه الأنظمة، وقد سبق أن واجهت الشركة انتقادات وتحقيقات في ولايات أخرى مثل تكساس، إضافة إلى قضايا تتعلق بسلامة المستخدمين الأطفال.

وتعكس هذه القضية تصاعد القلق العالمي، بشأن تأثير تطبيقات الذكاء الاصطناعي، خاصة عندما تتجاوز حدود الترفيه لتدخل في مجالات حساسة مثل الصحة، حيث قد تؤدي المعلومات غير الدقيقة إلى عواقب خطيرة.