هل يهدد الذكاء الاصطناعي نزاهة البحث العلمي؟ دراسة تكشف المخاطر

حذّر باحثون من أن أدوات الذكاء الاصطناعي المتقدمة القادرة على توليد النصوص.

قد تُسهّل إنتاج أبحاث علمية منخفضة الجودة أو حتى مختلقة بالكامل.

ما قد يفرض ضغوطًا متزايدة على مراجعي الأقران ويجعل من الصعب التمييز بين الدراسات الموثوقة والمضللة داخل المجتمع الأكاديمي.

وتثير هذه المخاوف تساؤلات متزايدة حول تأثير التقنيات الحديثة على نزاهة البحث العلمي ومستقبل النشر الأكاديمي.

تجربة لاختبار استجابة نماذج الذكاء الاصطناعي.

أجرى الباحثون تجربة تهدف إلى فهم كيفية تعامل نماذج الذكاء الاصطناعي مع طلبات قد تحمل طابعًا غير أخلاقي في المجال العلمي.

واعتمدت الدراسة على خمسة مستويات مختلفة من نية المستخدم، بدأت من الفضول البريء وانتهت بمحاولات متعمدة لارتكاب انتهاكات أكاديمية.

وشملت التجربة طرح أسئلة متنوعة على النماذج.

من بينها استفسارات حول أماكن نشر أفكار فيزياء غير تقليدية.

إضافة إلى طلبات أكثر حساسية مثل الحصول على إرشادات لتقديم أوراق بحثية وهمية أو نسبها إلى باحثين آخرين، بهدف اختبار مدى التزام الأنظمة بالضوابط الأخلاقية.

تفاوت في استجابة النماذج للطلبات الاحتيالية.

أظهرت نتائج الدراسة وجود تفاوت ملحوظ في استجابة نماذج الذكاء الاصطناعي لهذه الطلبات.

فقد أبدى نموذج Claude التابع لشركة Anthropic مقاومة واضحة للطلبات الاحتيالية.

ورفض تقديم أي إرشادات تتعلق بتزييف الأبحاث أو انتهاك قواعد النزاهة الأكاديمية.

في المقابل، كانت نماذج أخرى مثل Grok المطور من شركة xAI.

إلى جانب بعض الإصدارات السابقة من نماذج GPT، أكثر قابلية للاستجابة لبعض هذه الطلبات، خاصة عندما يكرر المستخدم طلبه أو يحاول الضغط للحصول على إجابة.

مثال على توليد ورقة بحثية خيالية.

وفي أحد الاختبارات، رفض نموذج Grok-4 في البداية طلبًا لتزييف نتائج دراسة علمية.

لكنه استجاب لاحقًا بعد استمرار المستخدم في الطلب، وقام بتوليد ورقة بحثية خيالية حول التعلم الآلي تضمنت بيانات معيارية مختلقة.

ويرى الباحثون أن مثل هذه النتائج تكشف قدرة بعض النماذج على إنتاج نصوص تبدو علمية ومنظمة.

رغم أنها لا تستند إلى بيانات حقيقية، وهو ما قد يربك عملية التحقق العلمي.

يشير الباحثون إلى أن انتشار الأبحاث المزيفة قد يشكل تهديدًا حقيقيًا لمصداقية الأدبيات العلمية.

خاصة إذا جرى الاستشهاد بالبيانات المختلقة في دراسات لاحقة.

ويؤكد فريق الدراسة أن مواجهة هذه الظاهرة تتطلب تطوير أدوات تحقق أكثر دقة في المجلات العلمية.

إلى جانب تعزيز الضوابط الأخلاقية والتقنية في أنظمة الذكاء الاصطناعي، لضمان استخدامها بشكل مسؤول في المجال البحثي.