تعتمد منصة Reddit على نماذج الذكاء الاصطناعي الكبيرة (LLMs) لمواجهة مشكلة تفاقمت أساسًا بسبب هذه النماذج نفسها، مع تزايد انتشار الرسائل المزعجة (Spam) والمحتوى الذي تنشئه الحسابات الآلية على الإنترنت.
ومع سهولة الوصول إلى أدوات الذكاء الاصطناعي التوليدي، أصبح بإمكان الجهات المسيئة إنتاج كميات كبيرة من المحتوى والرسائل المزعجة بسرعة غير مسبوقة، ما جعل مكافحة هذا النوع من المحتوى أكثر تعقيدًا.
وأوضحت" ريديت" أنها طورت أدوات تعتمد على نماذج اللغة الكبيرة لرصد الرسائل المزعجة، رغم أن جزءًا كبيرًا منها أُنشئ باستخدام التقنية نفسها.
وتقر الشركة بأن الأمر يحمل مفارقة، إلا أنها ترى أنه في عصر الذكاء الاصطناعي لا بد من استخدام الأدوات نفسها لمواجهة إساءة استخدامها.
ووفقًا للشركة، تمنع المنصة يوميًا ظهور نحو 23 مليون مشاهدة لمحتوى مزعج، كما ترصد ما يقارب 25 ألف منشور وتعليق جديد يحمل طابع الرسائل المزعجة كل يوم.
ورغم أن منصات التواصل الاجتماعي تطور منذ سنوات أنظمة آلية لاكتشاف الرسائل المزعجة، تؤكد" ريديت" أن أدواتها الجديدة المعتمدة على الذكاء الاصطناعي أصبحت أكثر كفاءة في اكتشاف هذا النوع من المحتوى.
وقالت الشركة في تدوينة رسمية: " نستخدم نماذج اللغة الكبيرة لاكتشاف الأنماط الدقيقة والمنسقة للسلوك المزيف والحملات المصطنعة التي لم تتمكن الأنظمة التقليدية من رصدها.
"وأضافت أن هذه الأدوات أسهمت في خفض تعرض المستخدمين للرسائل المزعجة بنسبة 20% خلال الفترة من يناير/كانون الثاني إلى مارس/آذار، مقارنة بالأشهر الثلاثة السابقة.
وفي الوقت نفسه، تسمح منصات مثل YouTube وMeta وInstagram للمستخدمين بنشر المحتوى المُولَّد بالذكاء الاصطناعي، شريطة الإفصاح عن ذلك، بينما تتيح TikTok للمستخدمين التحكم في مقدار المحتوى المُنشأ بالذكاء الاصطناعي الذي يرغبون في مشاهدته.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك