مايكروسوفت تضبط سلوك وكلاء الذكاء الاصطناعي

مع تزايد قدرات وكلاء الذكاء الاصطناعي، تواجه الشركات التي تسعى إلى دمجهم في تطبيقاتها ومنتجاتها وسير العمل لديها تحدياً جديداً يتمثل في ضمان التزام هذه الأنظمة بالمهام المخصصة لها عند تشغيلها في بيئات مختلفة.

وفي محاولة لمعالجة هذه المشكلة، كشفت مايكروسوفت عن معيار جديد مفتوح المصدر يحمل اسم «مواصفات التحكم بالوكلاء»، يهدف إلى تزويد المطورين بطريقة أكثر اتساقاً ودقة للتحكم في ما يُسمح لوكلاء الذكاء الاصطناعي بفعله.

ويتيح المعيار الجديد لفرق التطوير والامتثال والأمن السيبراني وضع سياسات خاصة يجب على الوكلاء الالتزام بها.

ويمكن لهذه القواعد تحديد ما يسمح للوكيل بتنفيذه، وما يُحظر عليه القيام به، ومتى يتعين الحصول على موافقة بشرية قبل تنفيذ إجراء معين، إضافة إلى تحديد نوع السجلات والأدلة التي يجب الاحتفاظ بها للمراجعة لاحقاً.

ويجري التحقق من هذه السياسات في عدة نقاط أثناء تنفيذ الوكيل لمهامه، لضمان بقائه ضمن الحدود والقواعد المحددة مسبقاً.

ويأتي إطلاق هذا المعيار في وقت لا يزال فيه المطورون يعتمدون على أساليب متفرقة للسيطرة على ما تراه أنظمة الذكاء الاصطناعي وما تقوم به، خصوصاً مع تزايد المخاوف من الأخطاء الناتجة عن سوء استخدام الأدوات أو اتخاذ إجراءات غير مقصودة قد تؤدي إلى سلسلة من الإخفاقات المتتابعة.

وحالياً، يلجأ المطورون إلى تضمين التعليمات داخل الأوامر الأساسية للنظام، أو إضافة ضوابط مخصصة داخل الشيفرة البرمجية، أو استخدام أنظمة تصنيف للكشف عن المدخلات والمخرجات الإشكالية.

إلا أن هذه الأساليب غالباً ما تؤدي إلى ضوابط متفرقة يصعب تدقيقها أو إعادة استخدامها عبر الأنظمة المختلفة.

وتهدف «مواصفات التحكم بالوكلاء» إلى جمع هذه الضوابط ضمن طبقة حوكمة موحدة.

ووفقاً لمايكروسوفت، يمكن استخدام المعيار للتحقق من التزام الوكيل بالقواعد في مراحل متعددة من سير العمل، سواء قبل استلام المدخلات، أو قبل استخدام الأدوات، أو بعد تلقي النتائج منها، أو قبل إرسال الرد النهائي إلى المستخدم.

كما تسمح السياسات المعتمدة بالموافقة على إجراء معين أو منعه، أو إخفاء المعلومات الحساسة، أو حتى طلب موافقة بشرية قبل المضي فيه.

ويستطيع المطورون أيضاً إضافة أنظمة تصنيف للمدخلات والمخرجات بهدف تصنيف المعلومات أو توقع النتائج أو تحديد كيفية استجابة الوكيل، فضلاً عن دمج نماذج لغوية كبيرة تعمل كمراجع لتقييم مدى توافق السلوك مع السياسات المحددة.

وتشمل إمكانات النظام التحقق من استدعاء الأدوات واختيارها، ودقة المدخلات، وطريقة استخدام المخرجات، والاستجابات النهائية.

وتشير مايكروسوفت إلى أن هذه السياسات يمكن حفظها في ملف واحد فقط، ما يسمح بنقلها مع الوكيل نفسه عند تشغيله في أطر عمل أو بيئات مختلفة، بحيث ترافقه القواعد الأمنية أينما تم استخدامه.