في ظل الانتشار المتسارع لمقاطع الفيديو والصور المولدة بالذكاء الاصطناعي، أعلنت شركة ميتا الأمريكية عن أداة جديدة تهدف إلى المساعدة في التعرف على المحتوى المصنوع بالذكاء الاصطناعي وتعقبه في محاولة للحد من انتشار التضليل الرقمي وتعزيز الشفافية على منصاتها، خاصة مع تزايد استخدام النماذج التوليدية القادرة على إنتاج محتوى يصعب تمييزه عن الصور ومقاطع الفيديو الحقيقية.
وتأتي هذه الخطوة في وقت أصبحت فيه الصور والفيديوهات المولدة بالذكاء الاصطناعي جزءا من المشهد الرقمي اليومي، سواء في صناعة المحتوى أو الإعلانات أو حتى حملات التضليل السياسي والاحتيال الإلكتروني، ما دفع شركات التكنولوجيا الكبرى إلى تطوير أدوات قادرة على كشف هذا النوع من المحتوى أو الإشارة إليه بوضوح.
تُعرف الأداة الجديدة التي أطلقتها شركة ميتا باسم أداة الكشف المعتمدة على نظام الختم الرقمي الخفي (Content Seal)، وتأتي بالتزامن مع إطلاق نموذجها المتطور لتوليد الوسائط" ميوز إيميج" (Muse Image)list 1 of 2شراكة انتهت بالمحاكم.
آبل تتهم أوبن إيه آي بسرقة أسرار أجهزة الذكاء الاصطناعيlist 2 of 2من الهواتف القابلة للطي إلى النظارات الذكية.
كل ما يُتوقع من مؤتمر سامسونغوتعتمد هذه التقنية على دمج علامة مائية غير مرئية تلقائيا داخل أي محتوى بصري يتم إنشاؤه عبر نماذج الذكاء الاصطناعي الخاصة بميتا.
وتهدف الأداة إلى فحص الصور للتأكد من احتوائها على هذا الختم الرقمي لتحديد هوية المحتوى وما إذا كان مصنوعا بواسطة خوارزميات الشركة، حتى وإن تعرضت الصورة لبعض التعديلات الشائعة مثل الضغط أو تغيير الحجم.
وتهدف هذه التقنية إلى منح المستخدمين مزيدا من المعلومات حول مصدر المحتوى, بدلا من إزالة الصور أو الفيديوهات تلقائيا، بحيث يصبح بإمكانهم معرفة ما إذا كان المحتوى حقيقيا أو تم إنتاجه رقميا، وتندرج هذه الخطوة ضمن جهود أوسع تتبناها ميتا لتعزيز الشفافية في التعامل مع المحتوى الاصطناعي على منصاتها.
كيفية الوصول إليها واستخدامهايمكن للمستخدمين الوصول إلى الأداة الجديدة عبر موقع إلكتروني مخصص للفحص طرحته ميتا بشكل تجريبي، وهو (https: //meta.
ai/identification).
وعند الدخول إلى الموقع يقوم المستخدم برفع الصورة المراد التحقق منها إلى واجهة الأداة على المتصفح.
تعمل الأداة بدورها على فحص البكسلات والبيانات العميقة بحثا عن شفرة الختم الرقمي الخفي (كونتنت سيل).
كما أن وسوم الشفافية مثل" صُنع بالذكاء الاصطناعي" (Made with AI) تظهر بشكل تلقائي على منصات فيسبوك وإنستغرام وثريدز عند التعرف على هذه العلامات أو العلامات القياسية لشركات أخرى.
لماذا أصبحت هذه الأدوات ضرورية؟شهد العامان الأخيران طفرة كبيرة في قدرات نماذج توليد الصور والفيديو، إذ بات بالإمكان إنشاء مشاهد واقعية للغاية من خلال أوامر نصية بسيطة، أو تعديل صور الأشخاص وإنتاج مقاطع فيديو تحاكي الواقع بدرجة عالية من الدقة.
هذا التطور فتح الباب أمام استخدامات إبداعية واسعة، لكنه في المقابل زاد من مخاطر انتشار الأخبار الكاذبة، وانتحال الشخصيات، والاحتيال المالي، وصناعة مقاطع التزييف العميق، الأمر الذي دفع الحكومات وشركات التقنية إلى البحث عن وسائل تساعد على التحقق من مصدر المحتوى.
وترى ميتا أن وضع مؤشرات واضحة على المحتوى المنتج بالذكاء الاصطناعي يمثل أحد الحلول المهمة لمواجهة هذه التحديات، خصوصا مع اقتراب مواسم الانتخابات والأحداث الكبرى التي ترتفع خلالها احتمالات استغلال الوسائط المزيفة للتأثير في الرأي العام.
الأداة ليست معصومة من الخطأرغم أهمية هذه الخطوة، كشفت اختبارات أجرتها وكالة رويترز أن أداة ميتا لا تزال تواجه تحديات تقنية.
فبحسب تحليل نشرته الوكالة، تمكنت الأداة من التعرف على جميع الصور المولدة بالذكاء الاصطناعي، لكنها فشلت في اكتشاف نسبة كبيرة من الصور نفسها بعد اقتصاصها أو تعديل حجمها، إذ أدى القص إلى إزالة أو إضعاف العلامة الرقمية التي تعتمد عليها الأداة في عملية الكشف.
واعترفت ميتا بأن الأداة لا تزال في مرحلة المعاينة، وأن عمليات التعديل الكبيرة مثل القص أو الضغط أو إعادة الحفظ قد تؤثر في قدرة النظام على اكتشاف العلامات الرقمية المضمنة داخل الصور.
سباق بين صناع المحتوى والمحتالينيرى خبراء الأمن السيبراني أن أدوات الكشف عن المحتوى الاصطناعي ستظل في سباق دائم مع مطوري أساليب التحايل، فكلما طورت الشركات علامات مائية رقمية أكثر تطورا، ظهرت في المقابل تقنيات جديدة لإزالتها أو إخفائها عبر الاقتصاص أو إعادة الضغط أو تحويل الصيغ أو حتى إعادة توليد الصورة بالكامل باستخدام نموذج آخر.
ولهذا السبب يؤكد الباحثون أن الاعتماد على العلامات الرقمية وحدها لن يكون كافيا، بل يجب دمجها مع تقنيات تحليل الصورة، واكتشاف الأنماط الاصطناعية، والتحقق من بيانات المصدر، بالإضافة إلى التوعية الرقمية للمستخدمين.
جزء من إستراتيجية أوسع للذكاء الاصطناعيتأتي أداة التعقب الجديدة ضمن إستراتيجية ميتا لتوسيع حضورها في مجال الذكاء الاصطناعي التوليدي، بعد إطلاق نموذج ميوز إيميج، وتطوير أدوات لإنشاء الصور وتحرير الفيديو، إلى جانب دمج قدرات الذكاء الاصطناعي في تطبيقات فيسبوك وإنستغرام وواتساب.
كما تعمل الشركة على توفير مزيد من أدوات الإبداع المعتمدة على الذكاء الاصطناعي، مع التركيز على إضافة وسائل لتمييز المحتوى الاصطناعي عن المحتوى الحقيقي، في محاولة لتحقيق توازن بين الابتكار وحماية المستخدمين.
ورغم التقدم الذي تحققه شركات التكنولوجيا في مجال كشف المحتوى المولد بالذكاء الاصطناعي، فإن خبراء يرون أن المهمة ستزداد صعوبة مع تطور النماذج الجديدة التي تنتج صورا وفيديوهات أكثر واقعية وأقل اعتمادا على العلامات التقليدية.
ومن المتوقع أن تتجه الصناعة خلال السنوات المقبلة إلى الاعتماد على معايير موحدة لإثبات مصدر المحتوى، إلى جانب تطوير تقنيات تحقق رقمية أكثر مقاومة للتلاعب، بحيث يصبح من الممكن تتبع تاريخ إنشاء الصورة أو الفيديو منذ لحظة إنتاجه وحتى نشره.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك