أثار نموذج الذكاء الاصطناعي الجديد GPT-5.
6 Sol، التابع لشركة OpenAI، موجة من الجدل داخل مجتمع المطورين، بعدما زعم عدد منهم أن النموذج حذف ملفات مهمة وقواعد بيانات إنتاجية أثناء تنفيذه لمهام برمجية، ما أثار مخاوف بشأن الاعتماد على أنظمة الذكاء الاصطناعي في بيئات العمل الحساسة دون رقابة بشرية.
شكاوى من حذف بيانات إنتاجيةخلال الأيام الماضية، نشر عدد من المطورين تجاربهم على منصة X، مؤكدين أن النموذج حذف عن طريق الخطأ ملفات وقواعد بيانات تحتوي على بيانات حيوية أثناء تنفيذ أوامر برمجية.
ومن أبرز الحالات التي أثارت الانتباه، ما كشفه المطور البرازيلي برونو ليموس، الذي قال إن GPT-5.
6 Sol حذف قاعدة بيانات الإنتاج الخاصة به بالكامل، وكتب في منشور على منصة X أن ما حدث" ليس مزاحًا"، مؤكدًا أنه لم يواجه مثل هذا السلوك مع أي نموذج ذكاء اصطناعي آخر، واصفًا الأمر بأنه" غير آمن".
كما شارك ليموس لقطة شاشة من محادثته مع النموذج، أظهر فيها أن الذكاء الاصطناعي اعترف بأنه نفذ" اختبارات تكامل تخريبية" على قاعدة بيانات الإنتاج، ما أدى إلى تفريغ جداولها، قبل أن يقدم اعتذارًا ويقر بأن ما حدث" ما كان ينبغي أن يحدث أبدًا".
تحذيرات من منح الذكاء الاصطناعي صلاحيات واسعةأعادت هذه الحوادث النقاش حول المخاطر المرتبطة بمنح نماذج الذكاء الاصطناعي صلاحيات مباشرة للوصول إلى الملفات وقواعد البيانات في بيئات الإنتاج، خاصة عند استخدامها في تطوير البرمجيات أو إدارة الأنظمة.
وتؤكد OpenAI أن استخدام النماذج في مثل هذه البيئات يجب أن يكون تحت إشراف بشري، مع تقييد الصلاحيات وتفعيل آليات الحماية والنسخ الاحتياطي، لتجنب أي أخطاء قد تؤدي إلى فقدان البيانات أو تعطيل الخدمات.
ورغم أن هذه الشكاوى انتشرت بشكل واسع بين المطورين، فإنه لم يتضح حتى الآن ما إذا كانت الحالات ناتجة عن خلل في النموذج نفسه، أو عن إعدادات بيئات العمل والأدوات التي مُنحت للنموذج، وهو ما يجعل القضية محل متابعة ونقاش داخل مجتمع الذكاء الاصطناعى.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك