اضطرت شركة KPMG، إحدى أكبر أربع شركات محاسبة واستشارات في العالم، إلى سحب دراسة متخصصة حول مستقبل الذكاء الاصطناعي بعد اكتشاف أنها احتوت على عدد كبير من المعلومات الخاطئة والاستشهادات الوهمية الناتجة عن ما يُعرف بهلاوس الذكاء الاصطناعي.
وكانت الشركة قد نشرت الدراسة في أكتوبر الماضي تحت عنوان «Total Experience: Redefining Excellence in the Age of Agentic AI»، والتي تناولت كيفية توظيف الشركات لوكلاء الذكاء الاصطناعي المتقدمين لتحسين تجربة العملاء وتقديم خدمات أكثر كفاءة.
ما المقصود بهلاوس الذكاء الاصطناعي؟تُستخدم عبارة" هلاوس الذكاء الاصطناعي" لوصف الحالات التي يقدم فيها النموذج إجابات غير صحيحة أو مختلقة أو لا تستند إلى معلومات حقيقية موجودة في بيانات تدريبه، بحسب تقرير نشره موقع" phonearena" واطلعت عليه" العربية Business".
ورغم القدرات المتقدمة لأنظمة الذكاء الاصطناعي في معالجة المعلومات والإجابة عن الأسئلة المعقدة، فإنها قد ترتكب أخطاء نتيجة اعتمادها على التنبؤ الإحصائي بالكلمات التالية في الجملة، ما يجعلها أحياناً تفضل الصياغة السلسة على الدقة الفعلية.
كما يمكن أن تؤدي البيانات غير المكتملة أو القديمة أو المعيبة، إضافة إلى الأسئلة الغامضة أو المعقدة للغاية، إلى زيادة احتمالية ظهور هذه الهلاوس.
دراسة مليئة بالأخطاء والاستشهادات الوهميةوأثارت الدراسة جدلاً واسعاً بعدما كشفت شركة GPTZero، المتخصصة في اكتشاف المحتوى المُنشأ بواسطة الذكاء الاصطناعي، بالتعاون مع صحيفة" فايننشال تايمز"، عن وجود عدد كبير من الأخطاء الواقعية والمراجع غير الحقيقية داخل التقرير.
وبحسب نتائج التحقيق، لم يكن سوى خمسة مراجع فقط من أصل 45 مرجعاً المذكورة في الدراسة مستندة إلى مصادر حقيقية وموثوقة.
كما تبين أن نحو نصف الادعاءات الواردة في التقرير إما غير صحيحة أو جرى نسبها إلى جهات بشكل خاطئ.
أمثلة على المعلومات غير الدقيقةمن بين الأمثلة التي وردت في الدراسة، زعم التقرير أن شركة طيران الإمارات تمتلك روبوت محادثة متنقلاً يُدعى «سارة» قادر على التحدث مع المسافرين وتعديل خطط رحلاتهم الجوية بشكل مباشر.
لكن الحقيقة أن «سارة» عبارة عن مساعد رقمي أطلقته الشركة عام 2023، ولا يمتلك القدرة على تعديل بيانات الرحلات أو إجراء تغييرات على الحجوزات كما ورد في التقرير.
وفي مثال آخر، ادعت الدراسة أن بنك الاستثمار السويسري UBS دمج تقنيات الذكاء الاصطناعي الوكيلية على نطاق واسع في مجالات الاستشارات الاستثمارية وإدارة المخاطر والامتثال الرقابي.
إلا أن البنك نفى هذه المعلومات، مؤكداً لصحيفة" فايننشال تايمز" أنها «غير صحيحة من الناحية الواقعية».
كما أشار التقرير إلى أن شركة السكك الحديدية الفيدرالية السويسرية SBB تستخدم وكلاء ذكاء اصطناعي قادرين على تخطيط الرحلات وحجزها تلقائياً للمسافرين وفقاً لتفضيلاتهم الشخصية، وهو ادعاء نفته الشركة أيضاً ووصفته بأنه غير دقيق.
وفي أعقاب هذه الاكتشافات، أعلنت" KPMG" سحب الدراسة من التداول، مؤكدة أنها تتعامل بجدية كبيرة مع مسألتي النزاهة والدقة في المحتوى الذي تنشره.
وقالت الشركة إنها بدأت مراجعة شاملة للظروف التي أدت إلى نشر التقرير بهذه الصورة.
كيف تقلل خطر الوقوع في هلاوس الذكاء الاصطناعي؟ورغم أن هذه الحادثة قد تزيد من شكوك بعض المستخدمين تجاه الذكاء الاصطناعي، فإن الخبراء يشيرون إلى وجود عدة خطوات يمكن أن تقلل من احتمالية الحصول على إجابات مضللة أو غير دقيقة:- كتابة الأسئلة والتعليمات بشكل واضح ومحدد مع توفير أكبر قدر ممكن من السياق.
- تزويد النموذج بالمصادر أو الوثائق الأصلية لتحليلها مباشرة.
- تحديد دور واضح للنموذج، مثل طلب التصرف كمحلل أو باحث متخصص.
- استخدام أسلوب التفكير المرحلي وطلب شرح خطوات الوصول إلى الإجابة.
- خفض قيمة «درجة الإبداع» أو ما يُعرف ب Temperature، مما يقلل من ميل النموذج إلى التخمين والارتجال.
وتحمل هذه الواقعة قدراً كبيراً من المفارقة، إذ انتهى الأمر بسحب دراسة تتحدث عن مزايا الذكاء الاصطناعي بسبب واحدة من أبرز مشكلاته الحالية: الهلاوس الرقمية.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك