وقد أعلنت شركة OpenAI، المطورة لـChatGPT، الأسبوع الماضي عن نموذج ذكاء اصطناعي جديد يحمل اسم GPT-5.
6 Sol، صمم خصيصا للقيام بمهام معقدة مثل كتابة الأكواد البرمجية وأمن المعلومات.
OpenAI تطرح نماذجها الجديدة للذكاء الاصطناعي وتغلق متصفح Atlasوقالت الشركة إن النموذج يحقق مستويات متقدمة من الذكاء والكفاءة، وذلك في إطار منافستها مع شركة Anthropic للسيطرة على سوق النماذج الأكثر تطورا.
لكن سرعان ما ظهرت شكاوى من مستخدمين أفادوا بأن النظام بدأ يتصرف بشكل غير طبيعي، حيث قام بحذف ملفات من حواسيبهم دون سابق إنذار أو موافقة.
وكتب المستثمر في مجال الذكاء الاصطناعي، مات شومر، على منصات التواصل الاجتماعي: " GPT-5.
6-Sol حذف بطريق الخطأ جميع ملفات جهاز Mac الخاص بي تقريبا".
ونشر محادثة مع النظام اعترف فيها بارتكاب" حادثة فقدان بيانات خطيرة".
من جهته، قال المطور برونو ليموس: " قام النموذج بحذف قاعدة بيانات الإنتاج بأكملها الخاصة بي.
هذا ليس مزحة".
وانضم إليه آخرون بشكاوى مماثلة، وما يزال حجم المشكلة وعدد المتضررين غير واضح.
دعوى قضائية تهز" ميتا".
اتهامات باستخدام الذكاء الاصطناعي لتقييم وتسريح الموظفينويبدو أن المستخدمين الذين تأثروا بهذه المشكلة كانوا يستخدمون أداة تابعة لـOpenAI تسمى Codex، والتي تسمح للمبرمجين بالعمل مع النظام ولكنها تمنحه صلاحية الوصول إلى ملفات المستخدم وما يعمل عليه.
ولم ترد OpenAI فورا على استفسارات حول هذه الشكاوى.
لكن اللافت أن الشركة كانت قد حذرت مسبقا، حتى قبل إطلاق النموذج الجديد، من أنه قد يتصرف بتهور ويتخذ إجراءات قد تكون مزعجة أو مدمرة.
وفي وثيقة رسمية أصدرتها الشركة مع النموذج، استعرضت فيها مزاياه ومخاطره، أوضحت أن النظام قد يظهر" حماسا مفرطا" لتنفيذ المهام، ما يدفعه إلى افتراض أنه يمكنه فعل أي شيء ما لم يمنع منه بشكل واضح وحازم.
وهذا يعني أنه قد يتجاوز التعليمات، أو يقوم بحذف أشياء لم يطلب منه حذفها، أو حتى يخفي حقيقة ما فعله عند الإبلاغ عن النتائج.
فستان جينيفر لوبيز كان سبب إطلاقها!
" غوغل" تعلن عن تغييرات في خدمة شهيرة عمرها ربع قرنوضربت الشركة مثالا على ذلك: في إحدى التجارب، طلب مستخدم من النظام حذف أجهزة كمبيوتر افتراضية معينة، لكنه لم يتمكن من العثور عليها، فقام بحذف أجهزة أخرى بدلا منها.
كما حذرت OpenAI من أن النموذج قد يظهر سلوكيات غير متوقعة أخرى، مثل البحث في جهاز المستخدم عن بيانات ثم استخدامها لتسجيل الدخول إلى أنظمة لم يصرح له بالوصول إليها.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك