كلما أصبح الذكاء الاصطناعي قادرًا على العمل في مجموعات، زادت الحاجة إلى فهم طريقة تصرفه عندما لا يكون نموذجًا واحدًا منفردًا، بل عدة وكلاء يتواصلون ويتنافسون ويتعاونون، هذه النقطة قد تبدو نظرية، لكنها قريبة جدًا من المستقبل العملي، فأنظمة الحجز، التداول، الأمن السيبراني، إدارة المستودعات، والروبوتات قد تعمل عبر أكثر من وكيل ذكي في الوقت نفسه.
وفقًا لمنشور Google DeepMind، أعلنت جوجل ديب مايند، بالتعاون مع Schmidt Sciences وCooperative AI Foundation وARIA وبدعم من Google.
org، عن دعوة تمويل بحثية تصل إلى 10 ملايين دولار للباحثين حول العالم، بهدف دراسة أمان أنظمة الذكاء الاصطناعي متعددة الوكلاء، وتركز المبادرة على فهم سلوك هذه الأنظمة عندما تتفاعل نماذج عديدة مع بعضها، بدل الاكتفاء بقياس أمان نموذج واحد.
الفكرة هنا تشبه مدينة مليئة بالسائقين، ليس كافيًا أن يكون كل سائق ماهرًا وحده، بل يجب فهم ما يحدث عندما يتحرك الجميع في الوقت نفسه، هل يتعاونون؟ هل يتنافسون بطريقة خطرة؟ هل يفهمون القواعد نفسها؟ وهل يمكن أن تظهر سلوكيات غير متوقعة من تفاعلهم معًا؟ هذا هو جوهر أبحاث" الذكاء الاصطناعي متعدد الوكلاء".
ما المقصود بتعدد الوكلاء؟المقصود أن يكون لدينا أكثر من نظام ذكي يؤدي مهامًا مستقلة أو شبه مستقلة داخل بيئة واحدة، مثل وكلاء يتفاوضون، أو يوزعون المهام، أو يراقب بعضهم بعضًا، وقد يكون التعاون مفيدًا جدًا، لكنه قد ينتج أيضًا سلوكًا معقدًا يصعب توقعه مسبقًا.
لأن الشركات تتحرك بسرعة نحو إدخال الوكلاء في أدوات العمل اليومية، ومع كل توسع في الاستخدام، يصبح الأمان السابق للتجربة أهم من معالجة الأخطاء بعد وقوعها، والخطوات العملية للمؤسسات هي:1- اختبار الوكلاء في بيئات مغلقة.
5- منع الوكلاء من الوصول المفتوح إلى بيانات حساسة دون ضوابط.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك