الذكاء الاصطناعي في الشرطة يمارس التحيّز

أقرّ قائد في الشرطة البريطانية بأن الذكاء الاصطناعي في الشرطة لمكافحة الجريمة يمارس التحيّز.

ويطالب سياسيون بتوسيع نطاق استخدام الشرطة للذكاء الاصطناعي، ويعتقد قادة شرطة أنه يساعد في إبقاء أجهزة إنفاذ القانون مطلعة دائماً على التهديدات الإجرامية الجديدة، لكن الذكاء الاصطناعي قد يؤدي إلى ممارسة التحيّز في العمل الشرطي.

ويرجع هذا التحيز إلى تدريب الذكاء الاصطناعي في الشرطة على بيانات تاريخية تعكس تحيّزات بشرية سابقة.

وإذا كان الأشخاص من جنس أو عرق أو عمر معين يظهرون بكثرة في وسائل التواصل الاجتماعي أو الأوساط الأكاديمية، فإن هذا قد ينعكس في مجموعات البيانات التي تم إنشاؤها عبر هذه المصادر، ومن المحتمل أن يكون أداء الخوارزميات المدربة على مجموعات البيانات هذه أفضل على هذا النوع من السكان.

وتؤدي هذه الآلية إلى توليد نتائج غير عادلة بشكلٍ منهجي، مثل استهداف الأقليات بشكلٍ مفرط، أو تحديد هويات الأفراد بشكلٍ خاطئ بناءً على العرق أو الجنس أو الوضع الاجتماعي والاقتصادي.

وتنقل صحيفة ذا غارديان عن رئيس قسم الذكاء الاصطناعي في الشرطة البريطانية أليكس موراي قوله إنه" عند الحديث عن التعرّف الفوري إلى الوجوه أو التنبؤ بالجريمة، لا بد من وجود تحيّز".

وحلّل تقرير لوكالة الاتحاد الأوروبي للتعاون في مجال إنفاذ القانون (يوروبول) قضية التحيز في الذكاء الاصطناعي في مجال إنفاذ القانون.

وجاء في التقرير أن" الأنظمة القائمة على البيانات ليست عادلة دائماً.

عند النظر في العدالة في تصميم ونشر أنظمة الذكاء الاصطناعي، من الضروري تذكر أن هذه التقنيات، على الرغم من مظهرها المحايد، هي من صنع البشر الذين يجلبون معهم قيودهم السياقية وتحيزاتهم إلى العملية، ويصعب التخفيف من هذه القيود والتحيزات".

وبحسب موراي، يكمن الحل لمحاربة تحيز الذكاء الاصطناعي في الشرطة في" الاستعانة بخبراء البيانات ومهندسيها لتنظيف البيانات، وتدريب النموذج بشكل مناسب، ثم اختباره".

ويضيف أنه" لا جدوى من استخدام بيانات متحيّزة وغير معترَف بها في العمل الشرطي، ويجب بذل كل جهد ممكن لتقليل هذا التحيز إلى مستوى يمكن فهمه والتخفيف من آثاره".