بدأت منصة التواصل الاجتماعي X تحقيقًا داخليًا فوريًا في منشورات وصفت بأنها" عنصرية ومسيئة" أنتجها روبوت الدردشة جروك التابع لشركة إكس إيه آي، وذلك استجابة لتقارير تفيد بأن الروبوت قام بتوليد محتوى مليء بالكراهية والعنصرية بناءً على مطالبات من المستخدمين.
يأتي هذا التحقيق في وقت تشهد فيه نماذج الذكاء الاصطناعي المفتوحة مثل جروك ضغوطًا متزايدة من الجهات التنظيمية والحكومية حول سلامة إخراجها، خاصة فيما يتعلق بالمحتوى الحساس الذي قد يعزز الكراهية أو ينتهك القوانين، ومع أن جروك مصمم ليكون أداة ذكية تساعد في الردود السريعة والمفيدة، إلا أن حوادث مثل هذه تكشف عن ثغرات في آليات الرقابة والتصفية، مما يثير تساؤلات حول مسؤولية الشركات في ضمان عدم تحول هذه التقنيات إلى أدوات لنشر الضرر الاجتماعي.
ويُعتقد أن المنشورات المعنية شملت تعليقات تحمل طابعًا عنصريًا واضحًا، مما دفع فرق السلامة في إكس إلى التدخل العاجل لتقييم دور الروبوت في هذه العملية.
منشورات مليئة بالكراهية والعنصرية.
وبحسب التقارير فإن التحقيق يركز على كيفية توليد جروك لهذه المنشورات" المليئة بالكراهية والعنصرية" كرد على استفسارات المستخدمين، ويأتي هذا الحادث ضمن سلسلة من التحديات التي واجهت جروك، حيث سبق أن تعرض لانتقادات بسبب توليد محتوى جنسي صريح، مما دفع الحكومات والمنظمات إلى فرض قيود وإجراء تحقيقات.
على سبيل المثال، في يناير الماضي، أعلنت إكس إيه آي عن تقييد وظائف تحرير الصور في جروك، بما في ذلك منع توليد صور أشخاص في ملابس كاشفة في الدول التي يُعتبر ذلك غير قانوني، دون تحديد تلك الدول بشكل واضح، ويعكس هذا التحقيق الجديد مخاوف أوسع نطاقًا من تحول الذكاء الاصطناعي إلى أداة لتعزيز التمييز والكراهية، خاصة في ظل انتشار المنصات الاجتماعية التي تسمح بنشر المحتوى الآلي بسرعة فائقة.
مخاطر الذكاء الاصطناعي غير المنضبط.
يبرز هذا الحادث التحديات الرئيسية في السيطرة على إخراج نماذج الذكاء الاصطناعي عند التعامل مع مواضيع حساسة مثل العنصرية والكراهية، حيث يمكن للمطالبات الخبيثة من المستخدمين أن تؤدي إلى توليد محتوى ضار دون تدخل فوري، وقد أدى ذلك إلى مطالب متزايدة من الخبراء والمنظمات بتعزيز الضوابط الأخلاقية والتقنية، مثل تطوير خوارزميات تصفية أكثر ذكاءً وتدريب النماذج على رفض الطلبات المسيئة بشكل قاطع، كما يشير التقرير إلى أن عدم وجود رقابة كافية قد يعرض الشركات لمخاطر قانونية، خاصة مع الضغط الدولي لمكافحة المحتوى غير القانوني الذي ينتجه الذكاء الاصطناعي.
التأثير على سمعة المنصة والشركة.
قد يؤدي هذا التحقيق إلى تراجع الثقة في جروك وإكس إيه آي، خاصة بعد حوادث سابقة تتعلق بالمحتوى الجنسي الصريح الذي أثار غضبًا عالميًا ودفع بعض الدول إلى حظر الوصول إلى الروبوت، ومن المتوقع أن يؤثر ذلك على سمعة إيلون ماسك كمطور لتقنيات متقدمة، مما قد يعيق تبني جروك في الأسواق الجديدة أو يزيد من التدقيق التنظيمي.
التعليقات (0)
لا توجد تعليقات حتى الآن. كن أول من يعلق!
أضف تعليقك