موسكو في الأول من يونيو 2026 /العُمانية/ طور باحثون من جامعة سيبيريا الحكومية للعلوم والتكنولوجيا الروسية نظامًا جديدًا يهدف إلى الحدّ من الأخطاء والمعلومات غير الدقيقة التي تنتجها تطبيقات الذكاء الاصطناعي من خلال آلية للتحقق من دقة المعلومات في الوقت الفعلي وتعزيز اعتماد النماذج الذكية على مصادر معرفية موثوق بها.
ويأتي هذا التطور في ظل تنامي الاهتمام بموثوقية أنظمة الذكاء الاصطناعي بعد رصد حالات قدمت فيها بعض النماذج معلومات غير دقيقة أو مضللة، ما أثار تساؤلات بشأن دقة مخرجاتها وإمكانية الاعتماد عليها في المجالات الحساسة.
وفي إطار معالجة هذه الإشكالية، طور علماء من جامعة" ريشيتنيف" في مدينة كراسنويارسك شرق سيبيريا منهجية تعتمد على أنظمة" التوليد المعزز بالاسترجاع" (RAG)، التي تستند إلى قواعد معرفية مبنية على مصادر موثوقة وعالية الجودة لتوليد الإجابات.
ووضح الباحثون أن هذا النهج يسهم بدرجة كبيرة في خفض احتمالات إنتاج معلومات غير دقيقة، مع إمكانية استمرار بعض الأخطاء الناتجة عن مشكلات إدخال البيانات أو تناقض الاستعلامات أو نقص المعلومات داخل قواعد المعرفة المُستخدمة.
وقام فريق بحثي بإشراف أناستاسيا بولياكوفا الأستاذة المشاركة في الجامعة بتحليل حالات عدم الدقة في مخرجات الذكاء الاصطناعي، وتطوير مصنف لرصدها، إلى جانب إعداد منظومة اختبار آلية تقارن الإجابات بمعايير مرجعية وتقيم دقتها باستخدام مقاييس التشابه الدلالي.
واستنادًا إلى نتائج المراحل الأولية، طور الباحثون نموذجًا أوليًّا لوحدة مراقبة تعمل في الوقت الفعلي لتقييم موثوقية الإجابات وتحديد مستوى الثقة فيها، مع إرسال تنبيه إلى المشرف عند رصد خطأ مُحتمل أو انخفاض مستوى الثقة.
وأكد الباحثون على أن المنهجية الجديدة تتمتع بمرونة تتيح استخدامها في روبوتات الدردشة والأنظمة الحكومية المُعتمدة على الذكاء الاصطناعي، فضلا عن تطبيقات متخصصة في مجالات متعددة، من بينها الطب والقانون والخدمات العامة.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك