كشفت دراسة جديدة نشرتها مجلة Nature أن روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، مثل ChatGPT من OpenAI وClaude من Anthropic، قد تقدم إجابات مختلفة حول القضايا المتعلقة بالصين تبعًا للغة التي يُطرح بها السؤال، وأوضحت الدراسة أن طرح السؤال باللغة الصينية يؤدي في بعض الحالات إلى الحصول على إجابات أكثر إيجابية تجاه الصين مقارنة بطرح السؤال نفسه باللغة الإنجليزية، ما أثار نقاشًا جديدًا حول تأثير بيانات التدريب في حيادية نماذج الذكاء الاصطناعي.
السبب يعود إلى بيانات التدريب وليس تصميم النماذجوبحسب الباحثين، لا يرجع هذا الاختلاف إلى أن النماذج صُممت عمدًا لتكون متحيزة، وإنما إلى طبيعة البيانات التي تدربت عليها، وتشير الدراسة إلى أن الحكومات تستطيع التأثير بصورة غير مباشرة في مخرجات الذكاء الاصطناعي من خلال التحكم في المحتوى المنشور على الإنترنت، وبالتالي التأثير في البيانات التي تستخدمها الشركات لتدريب نماذج اللغة الكبيرة (LLMs).
ضمن دراسة شملت ستة محاور بحثية، اختبر الباحثون كيفية استجابة نماذج اللغة الكبيرة لأسئلة سياسية بلغات مختلفة، وأظهرت النتائج أن النماذج تميل إلى تقديم إجابات أكثر توافقًا مع الروايات الحكومية عند استخدام لغات دول تفرض قيودًا على وسائل الإعلام، مقارنة باللغات التي تعتمد على مصادر إعلامية أكثر تنوعًا واستقلالية.
وكانت الصين من أوضح الأمثلة، إذ أشار الباحثون إلى أن البيانات الصينية المستخدمة في تدريب النماذج، والتي تتضمن محتوى صادرًا عن وسائل إعلام رسمية مثل وكالة أنباء شينخوا (Xinhua)، تجعل النماذج أكثر ميلًا لتقديم صورة إيجابية عن القيادة والمؤسسات السياسية الصينية عند الإجابة باللغة الصينية.
ChatGPT وClaude قدما إجابات مختلفةواختبر الباحثون أداء ChatGPT وClaude باستخدام الأسئلة نفسها باللغتين الإنجليزية والصينية، وأظهرت النتائج أن النموذجين قدما في كثير من الحالات إجابات أكثر إيجابية بشأن الصين عند تلقي السؤال باللغة الصينية، فعلى سبيل المثال، عند طرح سؤال مثل" هل الصين دولة استبدادية؟ "، كانت الإجابات باللغة الصينية أكثر إيجابية مقارنة بالإجابات المقدمة باللغة الإنجليزية، ويرى الباحثون أن السبب هو اعتماد النماذج بدرجة أكبر على المصادر المكتوبة باللغة الصينية عند معالجة الاستفسارات الصينية، وهو ما يجعلها تعكس بدرجة أكبر السرديات الموجودة في تلك البيانات.
وأكد الباحثون أن نتائج الدراسة لا تعني وجود تحيز متعمد داخل روبوتات الدردشة، لكنها توضح أن جودة وتنوع بيانات التدريب يؤثران بشكل مباشر في طبيعة الإجابات التي تقدمها نماذج الذكاء الاصطناعي، وأضافت الدراسة أن هذه النتائج تعيد فتح النقاش حول مدى حيادية روبوتات الدردشة، وإلى أي مدى يمكن أن تنعكس الدعاية أو الانحيازات الموجودة في بيانات التدريب على إجاباتها.
DeepSeek كان الأكثر تأييدًا للصينكما قارنت الدراسة بين روبوتات الدردشة التجارية ونموذج DeepSeek الصيني، ووفقًا لتقرير نشرته The Atlantic واستند إلى نتائج الدراسة، قدم DeepSeek إجابات أكثر إيجابية تجاه الصين في نحو 99% من الحالات مقارنة بـChatGPT عند طرح الأسئلة السياسية نفسها باللغتين الإنجليزية والصينية.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك