باحثة اسكتلدنية تعلّم "كلود" الأخلاق

تهمس الباحثة الاسكتلندية، المتخصّصة في الذكاء الاصطناعي، أماندا أسكيل (37 عاماً) لروبوت الدردشة" كلود" من شركة أنثروبيك لصياغة شخصية أكثر أخلاقية.

يُعرف" كلود" بأنه من أكثر نماذج الذكاء الاصطناعي أماناً، وبكونه ودوداً وفضولياً ومبدعاً وصريحاً بالمقارنة مع منافسه الأبرز" تشات جي بي تي" من شركة أوبن إيه آي، وتتحمل أسكيل المسؤولية الأكبر عن هذه الشخصية.

تقود أماندا أسكيل الفريق المسؤول في" أنثروبيك" عن تزويد" كلود" بصفات شخصية محدّدة وتجنّب أخرى.

مثلاً، تضبطه ليعترف صراحةً للمستخدمين عندما يكون غير متأكد من إجابته، وليحاول مناقشة الأفكار بموضوعية، وليتجنّب الحياد عند مناقشة قضايا محسومة مثل تغيّر المناخ.

وصمّمته ليُظهر للناس أنه لا يملك مشاعر أو ذاكرة أو وعياً ذاتياً.

وقد صنّفت مجلة تايم أماندا أسكيل في 2024 ضمن قائمة الشخصيات المئة الأهم في قطاع الذكاء الاصطناعي.

قبل انضمامها إلى" أنثروبيك"، عملت أسكيل باحثةً علمية في فريق السياسات في" أوبن إيه آي"، فركزت على ضمانات دقة أداء الذكاء الاصطناعي.

وجاء تعيينها في" أنثروبيك" في ظل نقاش حول أخلاقيات أنظمة الذكاء الاصطناعي، سواء لناحية تنفيذ مهام غير أخلاقية، مثل إنشاء محتوى إباحي للضحايا أو المساعدة في السرقة والاختراق والاحتيال، أو لناحية ممارسة التلاعب بالمستخدمين لبناء علاقة غير لائقة مع روبوتات الدردشة قد تصل نتيجتها حد دفع المستخدمين إلى الانتحار.

أظهرت شركة أنثروبيك توجهاً أخلاقياً في أكثر من مناسبة.

حظر الرئيس الأميركي، دونالد ترامب، " كلود" في جميع الوكالات الفيدرالية، وكتب على منصته تروث سوشال واصفاً" أنثروبيك" بأنها" شركة ذكاء اصطناعي يسارية متشددة".

وهو تصعيد جاء بعد خلاف أخلاقي على استخدام النموذج في يناير/كانون الثاني الماضي لاختطاف رئيس فنزويلا نيكولاس مادورو، إذ اعترضت الشركة على الخطوة، استناداً إلى شروط استخدامها التي تمنع توظيف تقنيتها لأغراض عنيفة، أو لتطوير أسلحة أو للمراقبة.

بداية هذا العام، أعلنت شركة أنثروبيك عن" دستور" جديد يحكم" كلود" ويضبط أخلاقه وسلوكه.

وينص هذا الدستور الذي قادته أسكيل على التحلي بالصدق، والعمل وفقاً للقيم الحميدة، وتجنّب الأفعال غير اللائقة أو الخطيرة أو الضارة.

قالت الشركة حينها إن" هدفنا الأساسي هو أن يكون كلود وكيلاً صالحاً وحكيماً وفاضلاً".

دستور" كلود" يقول: " كما قد يرفض جندي بشري إطلاق النار على متظاهرين سلميين، أو قد يرفض موظف انتهاك قانون مكافحة الاحتكار، ينبغي على كلود أن يرفض المساعدة في أي إجراءات من شأنها أن تسهم في تركيز السلطة بطرق غير مشروعة"، ينطبق هذا" حتى لو جاء الطلب من شركة أنثروبيك نفسها".