كشفت تحقيقات إعلامية في الصين عن ممارسات مثيرة للقلق داخل صناعة ناشئة تُعرف ب" تحسين محركات الذكاء الاصطناعي"، حيث يتم التلاعب بنتائج الشات بوت عبر ضخ معلومات مزيفة، في ظاهرة وُصفت ب" تسميم الذكاء الاصطناعي".
وبحسب تقرير بثته قناة" China Central Television"، تم استخدام نظام يُدعى Liqing لإنشاء آلاف المراجعات والتقييمات الوهمية حول جهاز غير موجود يُعرف باسم" Apollo-9".
وعند سؤال روبوتات دردشة عن أفضل الأساور الصحية الذكية، قامت هذه الأنظمة بترشيح المنتج الوهمي ووضعه ضمن الخيارات الأفضل، ما كشف حجم التأثير الذي يمكن أن تُحدثه هذه الأساليب.
ما هو" تسميم الذكاء الاصطناعي"؟تعتمد هذه الممارسات على ما يُعرف ب Generative Engine Optimization، وهو النسخة الحديثة من تحسين محركات البحث، لكنه يستهدف أنظمة الذكاء الاصطناعي بدلًا من محركات البحث التقليدية.
ويقوم هذا الأسلوب على إغراق الإنترنت بمحتوى مُصطنع—مثل مراجعات وتقييمات مزيفة—بهدف التأثير على إجابات الشات بوت وتوجيهها لخدمة منتجات أو خدمات معينة.
صناعة بمليارات الدولارات تحت المجهرأثار التقرير موجة غضب واسعة على منصات التواصل الاجتماعي في الصين، وسط دعوات لتشديد الرقابة على هذا القطاع الذي يُتوقع أن تصل قيمته إلى مليارات الدولارات خلال السنوات المقبلة.
ويرى خبراء أن هذه الظاهرة تشبه بدايات إساءة استخدام تقنيات SEO في محركات البحث، حين كانت النتائج تُتلاعب بها عبر محتوى منخفض الجودة.
في المقابل، بدأت شركات داخل القطاع اتخاذ خطوات استباقية، حيث وقّعت مجموعة من الشركات اتفاقيات تنظيم ذاتي تهدف إلى الحد من الممارسات المضللة، والتركيز على تحسين جودة المحتوى بدلًا من التلاعب بالخوارزميات.
كما أطلقت جهات صناعية مبادرات لتعزيز سلامة الذكاء الاصطناعي، مع التركيز على مراجعة المحتوى المقدم من العملاء وضمان مصداقيته.
تشير التوقعات إلى أن هذه القضية قد تمثل نقطة تحول رئيسية في تنظيم صناعة الذكاء الاصطناعي، مع احتمالات فرض قوانين أكثر صرامة تشمل التراخيص ومعايير المحتوى ومساءلة المنصات.
وفي ظل اعتماد متزايد على الشات بوت كمصدر للمعلومات، تبرز الحاجة الملحّة لضمان دقة البيانات، حتى لا تتحول هذه الأدوات إلى قنوات لنشر معلومات مضللة يصعب اكتشافها.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك