علماء روس يطورون تقنية جديدة تحد من "هلوسات" الذكاء الاصطناعي

علماء روس يطورون تقنية جديدة تحد من" هلوسات" الذكاء الاصطناعيابتكر باحثون روس طريقة جديدة للقضاء على" الهلوسات" في أنظمة الذكاء الاصطناعي، وهي عبارة عن معلومات خاطئة أو ملفقة قد تنتجها الشبكات العصبية بثقة مفرطة.

31.

05.

2026, سبوتنيك عربيhttps: //cdn.

img.

sarabic.

ae/img/07ea/01/1e/1109802041_1: 0: 1411: 793_1920x0_80_0_0_d0cc46a2e0687e5ecc3b628f81a2d36c.

png.

webpوقد طوّر هذه الطريقة فريق من جامعة ريشيتنيف في كراسنويارسك، ويمكن تطبيقها في مجالات التعليم، ومنصة الخدمات الحكومية، والطب، والخدمات القانونية.

المشكلة: الذكاء الاصطناعي الذي" يكذب بثقة" تكمن المشكلة الأساسية في قدرة الشبكات العصبية على إنتاج معلومات غير صحيحة بثقة عالية، وهي ظاهرة يطلق عليها الباحثون اسم" الأوهام أو الهلوسات".

تقوّض هذه الأخطاء الثقة، وقد تتسبب في مشاكل خطيرة عند استخدام الذكاء الاصطناعي في مهام حساسة كالمشورة الطبية، والإرشاد القانوني، والخدمات الحكومية الرسمية.

حاليًا، يعدّ نظام RAG (الاسترجاع والتوليد المعزّز) النهج الأكثر شيوعًا للحد من هذه الأوهام، حيث يبحث الذكاء الاصطناعي أولًا في قاعدة معرفية عن المعلومات ذات الصلة قبل توليد الاستجابة.

مع أن هذا يساعد، إلا أن الأخطاء لا تزال واردة بسبب الأخطاء المطبعية، أو التناقضات في الاستعلام، أو قواعد البيانات غير المكتملة.

الحل الجديد: الكشف المنهجي والمراقبة الآنية اتّبع فريق جامعة ريشيتنيف، بقيادة الأستاذة المساعدة أناستاسيا بولياكوفا من قسم الأنظمة الآلية والذكية، نهجًا أكثر منهجية.

الإنجاز الأبرز: وحدة مراقبة آنية يتمثّل الإنجاز الرئيسي في نموذج أولي لوحدة مراقبة شاملة تعمل في الوقت الفعلي.

تسجّل هذه الوحدة جميع الطلبات الواردة وتوثّق كل استعلام مع سياق الحوار الخاص به.

كما تقيّم المخاطر من خلال تقييم احتمالية الحصول على إجابة غير موثوقة.

يخصّص النظام درجة ثقة لمخرجات نموذج الذكاء الاصطناعي، وينبّه المشغلين عند حدوث أخطاء أو انخفاض مستوى الثقة.

تمكّن هذه الخاصية الفورية المشغلين من التدخل عندما يكون الذكاء الاصطناعي على وشك تقديم معلومات غير موثوقة.

تكمن الميزة الرئيسية لهذه الطريقة في شموليتها، فهي غير مرتبطة بشبكة عصبية محددة، ويمكن توسيع نطاقها لتطبيقات متنوعة.

يمكن استخدام النظام في روبوتات الدردشة التي تساعد الطلاب المُحتملين في القبول الجامعي، مما يضمن حصولهم على معلومات دقيقة.

خطوة نحو ذكاء اصطناعي أكثر أمانًا مع ازدياد اندماج أنظمة الذكاء الاصطناعي في الحياة اليومية والبنية التحتية الحيوية، تزداد أهمية ضمان موثوقيتها.

تقدّم هذه المنهجية، التي طوّرت في روسيا، نهجًا عمليًا لجعل الشبكات العصبية أكثر جدارة بالثقة في قطاعات متعددة.

يمثل هذا البحث خطوة مهمة نحو معالجة أحد أكثر التحديات إلحاحًا في مجال الذكاء الاصطناعي: كيفية منع الذكاء الاصطناعي من تقديم معلومات خاطئة على أنها حقائق بثقة.

https: //sarabic.

ae/20260423/دراسة-الذكاء-الاصطناعي-يقدم-نصائح-صحية-غير-دقيقة-في-نحو-نصف-الحالات-1112821458.

htmlhttps: //sarabic.

ae/20260524/بالذكاء-الاصطناعي-الصين-تحول-منطقة-مستحيلة-الحفر-إلى-حقل-غاز-ضخم-1113698833.

htmlfeedback.

arabic@sputniknews.

comhttps: //cdn.

img.

sarabic.

ae/img/07ea/01/1e/1109802041_178: 0: 1235: 793_1920x0_80_0_0_075d8fc148855b930047d554921c917a.

png.

webpعلوم, روسيا, جامعات روسية, ذكاء اصطناعي, هلوسة© Sputnikترتيب الدول العربية في استخدام الذكاء الاصطناعيابتكر باحثون روس طريقة جديدة للقضاء على" الهلوسات" في أنظمة الذكاء الاصطناعي، وهي عبارة عن معلومات خاطئة أو ملفقة قد تنتجها الشبكات العصبية بثقة مفرطة.