بالتزامن مع إعلان" ميتا" عن نموذجها الأول لتوليد الصور" ميوز إمدج" أعلنت كذلك أن جميع الصور التي يُنشئها النموذج سوف تتضمن علامة مائية غير مرئية تسمى" ختم المحتوى".
لكن وجد تقرير جديد أن الأداة الجديدة لا تعمل كما يجب، بل يمكن للمستخدمين إخفاء هذه الفبركة بالذكاء الاصطناعي من خلال عملية قصّ سهلة.
وزعمت الشركة أن هذه العلامة سوف تبقى سليمة حتى عند قيام المستخدمين" بقص الصورة المُنشأة بالذكاء الاصطناعي أو ضغطها أو تغيير حجمها أو أخذ لقطة شاشة لها".
وللمساعدة في رصد علامة" ختم المحتوى"، أعلنت" ميتا" أيضاً عن أداة كشف بالذكاء الاصطناعي للتحقق مما إذا كان" ميوز إمدج" قد أنشأ الصورة.
لكن وجدت وكالة رويترز للأنباء أن أداة كشف الفبركة بالذكاء الاصطناعي من" ميتا" قد فشلت في كشف أكثر من نصف الصور التي أنشأتها بعد قصها.
وفي الاختبار الأول، وجدت" رويترز" أن الأداة قد كشفت جميع الصور الأربعين التي أنشأها" ميوز إمدج" بدقة، لكن بعد قصّ هذه الصور إلى نصف حجمها الأصلي أو ثلثه، لم تتمكن الأداة من تحديد سوى نصف الصور المفبركة.
وتثير هذه النتائج المخاوف بسبب تطوّر أدوات الفبركة بالذكاء الاصطناعي التي تصبح أقل قدرة على الكشف يوماً بعد يوماً.
وتقول شركة ديب سترايك للأمن السيبراني إن حجم الصور المفبركة بالذكاء الاصطناعي على الإنترنت قد شهدت نمواً سنوياً بنسبة 900% تقريباً بين عامي 2023 و2025.
في المقابل، لم تتطور أدوات كشف الفبركة بالذكاء الاصطناعي بالسرعة نفسها.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك