«مايكروسوفت» تعلن عن أداة جديدة لاختبار سلوك أنظمة الذكاء الاصطناعي

أعلنت شركة" مايكروسوفت" عن أداة جديدة لاختبار سلوك أنظمة الذكاء الاصطناعي باستخدام أوامر مكتوبة بلغة طبيعية، في إطار نهج عمل جديد مفتوح المصدر يحمل اسم" أسيرت - ASSERT"، ويهدف إلى مساعدة المطورين والشركات على اختبار سلوك أنظمة الذكاء الاصطناعي والتأكد من التزامها بالقواعد والسياسات الخاصة بكل تطبيق أو خدمة.

ووفقا لما ذكرته" مايكروسوفت"، فإن الأداة الجديدة تعتمد على الذكاء الاصطناعي لتحويل الأوصاف المكتوبة بلغة طبيعية إلى مجموعة متكاملة من الاختبارات القابلة للقياس والتقييم، وذلك استجابة للحاجة المتزايدة لدى المؤسسات التي تعتمد على الذكاء الاصطناعي، إذ لم يعد تقييم أداء النماذج بصورة عامة كافيا، بل أصبح من الضروري التأكد من تصرفها وفقا للمتطلبات المحددة لكل منتج أو خدمة.

وأوضحت الشركة أنه بمجرد أن يحدد المطور الأهداف أو السياسات أو السلوكيات المتوقعة من النظام، تقوم الأداة بتحويل هذه المتطلبات إلى قائمة منظمة من السلوكيات المقبولة وغير المقبولة، ثم تنشئ مجموعة متنوعة من السيناريوهات والاختبارات للتحقق من مدى التزام النظام بهذه القواعد.

وبعد ذلك، تشغل الاختبارات على النظام المستهدف وتقدم نتائج تفصيلية تساعد المطورين على اكتشاف نقاط الضعف أو الانحرافات السلوكية.

ومن أبرز مزايا الأداة قدرتها على تسجيل المسارات التي يتبعها نظام الذكاء الاصطناعي أثناء تنفيذ المهام، بما في ذلك الخطوات الوسيطة واستخدام الأدوات المختلفة، ما يتيح للمطورين فهما أعمق لأسباب الإخفاقات والأخطاء.

كما تسمح بإضافة معلومات إضافية، مثل بيئة العمل والأدوات المتاحة والقيود التنظيمية، بما يسهم في تخصيص عملية التقييم وفقا لطبيعة كل تطبيق.

وقالت سارة بيرد، رئيسة المنتجات في قسم الذكاء الاصطناعي المسؤول في" مايكروسوفت"، إن التقييمات الدقيقة أصبحت عنصرا أساسيا لاتخاذ قرارات صحيحة بشأن أنظمة الذكاء الاصطناعي، مشيرة إلى أن المؤسسات لا تستطيع الحكم على مدى موثوقية أنظمتها ما لم تفهم سلوكها الفعلي.

وأضافت أن الأنظمة الجديرة بالثقة تتطلب قياس عدد كبير من الجوانب المرتبطة مباشرة بطبيعة التطبيق، مؤكدة أن الأداة يمكن استخدامها خلال مراحل تطوير النظام، وبعد إطلاقه للمستخدمين وحتى في عمليات المراقبة المستمرة على المدى الطويل.

ويأتي إطلاق هذه الأداة في وقت يشهد فيه قطاع الذكاء الاصطناعي توجها متزايدا نحو تطوير أدوات تقييم واختبارات أكثر دقة واستمرارية، خاصة مع تنامي قدرات النماذج الحديثة.

وتعكس هذه الجهود اتجاها متناميا داخل القطاع نحو جعل تقييم أنظمة الذكاء الاصطناعي عملية مستمرة ومنهجية، بدلا من الاكتفاء باختبارات أولية تسبق إطلاق المنتجات.