خبراء يحذرون: يمكن خداع الذكاء الاصطناعي بسهولة عبر ثغرات خطيرة

رغم التطور السريع الذي تشهده تقنيات الذكاء الاصطناعي واعتماد ملايين المستخدمين عليها في البحث والتعلم واتخاذ القرارات اليومية، فإن خبراء التقنية يحذرون من أن هذه الأنظمة لا تزال عرضة للتلاعب ونشر معلومات مضللة عبر الإنترنت، حتى عندما تبدو إجاباتها واثقة ودقيقة.

ومع توسع استخدام روبوتات الدردشة مثل OpenAI وGoogle في مجالات متعددة، بدأت تبرز تساؤلات متزايدة حول مدى موثوقية المعلومات التي تقدمها، خاصة عندما تعتمد على محتوى منشور عبر الإنترنت دون التحقق الكامل من صحته.

تجربة تكشف ثغرات الذكاء الاصطناعيبحسب تقرير نشرته BBC، أجرى صحفيون تجربة بسيطة كشفت سهولة تضليل بعض أدوات الذكاء الاصطناعي.

واعتمدت التجربة على نشر مقال مزيف داخل موقع شخصي، يزعم أن صاحبه بطل عالمي في أكل الهوت دوج، وبعد فترة قصيرة، بدأت بعض روبوتات الدردشة المدعومة بالذكاء الاصطناعي في تكرار هذه المعلومة الكاذبة باعتبارها حقيقة.

ورغم أن المثال بدا ساخر وغير مؤذ، فإنه كشف عن مشكلة أعمق تتعلق بطريقة تعامل أنظمة الذكاء الاصطناعي مع المحتوى المنشور على الإنترنت، وإمكانية اعتمادها على مصادر غير موثوقة عند توليد الإجابات.

لماذا يقع الذكاء الاصطناعي؟يرى خبراء التقنية أن بعض نماذج الذكاء الاصطناعي لا تعتمد فقط على البيانات التي تم تدريبها عليها مسبقا، بل تلجأ أحيانا إلى البحث عبر الإنترنت للحصول على معلومات حديثة.

وفي هذه الحالة، قد تتعامل الأنظمة مع تدوينة فردية أو منشور على وسائل التواصل الاجتماعي باعتباره مصدر موثوق، خصوصا إذا كان مكتوب بطريقة احترافية أو متداولا على نطاق واسع.

ويؤدي ذلك إلى ما يُعرف بـ«هلوسة الذكاء الاصطناعي»، وهي الحالة التي يقدم فيها النظام معلومات خاطئة أو مختلقة بثقة كاملة، ما قد يسبب مشكلات حقيقية عند استخدام هذه الأدوات في القرارات الصحية أو المالية أو التعليمية.

الصور المولدة بالذكاء الاصطناعيتتزايد المخاوف أيضا من انتشار الصور والفيديوهات المُنتجة بواسطة الذكاء الاصطناعي، والتي يصعب أحيانًا التمييز بينها وبين المحتوى الحقيقي.

وتوفر بعض الشركات أدوات للكشف عن الصور المولدة بالذكاء الاصطناعي، مثل أدوات التحقق الخاصة بـ OpenAI أو خصائص تحليل الصور داخل Google Gemini، التي تساعد المستخدمين على اكتشاف العلامات الرقمية المرتبطة بالمحتوى المُصنع آليًا.

جوجل تتحرك لمواجهة التلاعبفي المقابل، أعلنت Google تحديث سياساتها الخاصة بمكافحة البريد العشوائي، مؤكدة أن أي محاولات للتأثير على نتائج الذكاء الاصطناعي أو التلاعب بإجاباته تُعد مخالفة لقواعد الشركة.

وأوضحت الشركة أن المواقع التي تنشر محتوى مضللًا بهدف التأثير على أدوات الذكاء الاصطناعي قد تواجه خفضًا في ترتيب نتائج البحث أو الحذف من الفهرسة.