وجد المفتشون أن بعض الضباط تصرفوا بناءً على المطابقات المحتملة من عمليات البحث بأثر رجعي دون إجراء فحوصات كافية
كشف تقرير رسمي أن ضباط الشرطة يخاطرون باعتقال الأبرياء، خاصة من الأقليات العرقية، إذا تعاملوا مع بيانات التعرف على الوجه غير الدقيقة كدليل.
وعلى الرغم من أن التكنولوجيا يمكن أن تساعد في مكافحة الجريمة، فقد وجد التقرير أنها تعاني من الأخطاء والتحيزات، ولا يدرك المشغلون دائمًا أنه يتعين عليهم إجراء مزيد من الاستفسارات للتحقق من البيانات.
ويغطي تقرير مفتشية جلالة الملك للشرطة، الذي نُشر يوم الأربعاء، تقنية التعرف على الوجه بأثر رجعي فقط. يُنظر إلى هذه التكنولوجيا على أنها أقل إثارة للجدل وأقل صعوبة في الحصول عليها بشكل صحيح من تقنية التعرف المباشر على الوجه، والتي تُستخدم في الوقت الفعلي للعثور على المشتبه بهم.
وقال التقرير: "لم يكن بعض المحققين يعلمون أن نتائج RFR كانت معلومات استخباراتية وليست أدلة، وتطلبت مزيدًا من التحقيقات قبل أن يتخذ الضباط إجراءات التنفيذ".
"وهذا يخلق خطرًا يتمثل في إمكانية التعرف على الأشخاص أو اعتقالهم بشكل غير صحيح، مما قد يقوض ثقة الجمهور في التكنولوجيا.
"لقد وجدنا أن بعض المحققين لم يجروا دائمًا ما يكفي من التحقيقات المؤيدة قبل التصرف في التطابقات المحتملة. وفي عدد صغير من الحالات، اعتمد الضباط بشكل كبير على نتائج RFR، مما أدى إلى اتخاذ إجراءات تحقيق غير مناسبة."
وقال التقرير إنه لا تزال هناك مشكلات تتعلق بالتحيز في الخوارزمية، بما في ذلك احتمالية الإشارة بشكل خاطئ إلى الأشخاص من الأقليات العرقية كمشتبه بهم.
وقالت: "يتعين بذل المزيد من الجهود للحد من مخاطر اعتقال الأشخاص خطأً... وحدد المدققون أيضًا الحالات التي قام فيها المستخدمون بتحميل صور تحقيق رديئة الجودة أو غير مناسبة، بما في ذلك الصور غير الواضحة والصور التي تحتوي على وجوه متعددة. وقد أدت هذه العوامل إلى تقليل قدرة النظام على إعادة المطابقات الموثوقة".
ووجد المفتشون أيضًا خطر تقويض ثقة الجمهور لأن صور الاحتجاز التي كان ينبغي حذفها تم الاحتفاظ بها في الواقع.
يقول التقرير: "وجد المفتشون أن التشريعات لم تواكب التغييرات في تكنولوجيا التعرف على الوجه ولا يوجد إطار قانوني شامل يحكم استخدام هذه التكنولوجيا. وهذا يزيد من صعوبة فهم الأساس القانوني لاستخدام RFR وما هي الضمانات اللازمة لحماية الجمهور".
وقالت مفتشة صاحب الجلالة للشرطة كاثرين ستون إن الدعم العام المستمر يعتمد على إظهار أن التكنولوجيا تستخدم بشكل صحيح: "يجب أن تكون قوات الشرطة قادرة على إثبات وجود الضمانات المناسبة، وإدارة المخاطر المتعلقة بالتحيز والاحتفاظ بالبيانات بشكل فعال، وأن القرارات لا تزال خاضعة للحكم البشري. إن وجود إطار قانوني أكثر وضوحًا ومعايير وطنية أقوى وتحسين ترتيبات الإدارة والرقابة أمر ضروري للحفاظ على ثقة الجمهور".
وينظر رؤساء الشرطة إلى تقنية التعرف على الوجه على أنها القفزة الكبيرة التالية إلى الأمام في مكافحة الجريمة، والتهديد الكبير التالي للحريات المدنية من قبل المتشككين.
قالت جاسلين شاغار، من Big Brother Watch: “إن الكشف عن أن الضباط يتعاملون مع التعرف على الوجه كدليل حقيقي بدلاً من درجة احتمالية أمر مثير للقلق.
"يزيد هذا النهج بشكل كبير من خطر قيام المزيد من الأبرياء بجعل الضباط يطرقون أبوابهم لإلقاء القبض عليهم لارتكابهم جرائم في مدن لم يزوروها من قبل، كما رأينا من قبل.
"والأسوأ من ذلك هو أن الشرطة لا تسجل حتى استخدامها للتعرف على الوجه بأثر رجعي، مما يعني أن الأشخاص يمكن أن يصبحوا مشتبه بهم بشكل خاطئ في التحقيقات الجنائية دون أن يدركوا حتى سبب اتهامهم.
"لا يمكن السماح للشرطة بمواصلة استخدام الخوارزمية مع القليل من الضمانات وفي إعدادات متحيزة من المرجح أن تخطئ في التعرف على النساء والآسيويين والسود وتبحث عن ملايين الصور المحتجزة بشكل غير قانوني."
قال بن راسل، رئيس قسم التعرف على الوجه في مجلس رؤساء الشرطة الوطنية: "تظل الشرطة ملتزمة بالاستخدام الأخلاقي والمتناسب والمسؤول للتعرف على الوجه بأثر رجعي للمساعدة في التحقيق في الجريمة وتقديم الجناة إلى العدالة والحفاظ على سلامة المجتمعات، ويسعدنا أن HMICFRS قد أدركت الإمكانيات المثيرة لهذه التكنولوجيا."
وقال البروفيسور بيت فوسي من جامعة ساوثهامبتون، والذي كان مستشارًا سابقًا للشرطة في مجال التعرف على الوجه: "إن التدقيق البشري الهادف لأنظمة الذكاء الاصطناعي هو مطلب قانوني، ومع ذلك فإن التقرير يقدم أمثلة على المحققين الذين يأخذون اقتراحات الكمبيوتر على محمل الجد دون مزيد من التدقيق".
