Los inspectores encuentran que algunos agentes actuaron ante posibles coincidencias de búsquedas retrospectivas sin realizar suficientes controles.
Los agentes de policía corren el riesgo de arrestar a personas inocentes, especialmente de minorías étnicas, si tratan como prueba datos inexactos de reconocimiento facial, según un informe oficial.
Aunque la tecnología puede ayudar a combatir el crimen, el informe encontró que está plagada de errores y sesgos, y los operadores no siempre se dan cuenta de que deben realizar más investigaciones para verificar los datos.
El informe de la Inspección de Policía de Su Majestad, publicado el miércoles, cubre únicamente el reconocimiento facial retrospectivo. La tecnología se considera menos controvertida y menos difícil de acertar que el reconocimiento facial en vivo, que se utiliza en tiempo real para encontrar sospechosos.
"Algunos investigadores no sabían que los resultados de la RFR eran inteligencia más que evidencia y requirieron más investigaciones antes de que los oficiales tomaran medidas coercitivas", dice el informe.
“Esto crea el riesgo de que las personas puedan ser identificadas o arrestadas incorrectamente, lo que podría socavar la confianza del público en la tecnología.
"Descubrimos que algunos investigadores no siempre llevaron a cabo suficientes investigaciones corroborativas antes de actuar sobre posibles coincidencias. En un pequeño número de casos, los agentes confiaron demasiado en los resultados de la RFR, lo que condujo a acciones de investigación inapropiadas".
El informe dice que todavía hay problemas de sesgo en el algoritmo, incluida la mayor probabilidad de señalar erróneamente a personas de minorías étnicas como sospechosas.
Decía: "Es necesario hacer más para reducir los riesgos de que las personas sean arrestadas injustamente... Los auditores también identificaron casos en los que los usuarios cargaron imágenes de sonda de mala calidad o inadecuadas, incluidas imágenes borrosas e imágenes que contienen múltiples rostros. Estos factores redujeron la capacidad del sistema para devolver coincidencias confiables".
Los inspectores también encontraron un riesgo de que se socavara la confianza del público porque las imágenes de custodia que deberían haber sido eliminadas, en realidad se conservaron.
El informe dice: "Los inspectores descubrieron que la legislación no se ha mantenido al día con los cambios en la tecnología de reconocimiento facial y no existe un marco legal integral que rija el uso de esta tecnología. Esto hace que sea más difícil para las fuerzas comprender la base legal para el uso de RFR y qué salvaguardas se necesitan para proteger al público".
La inspectora de policía de Su Majestad, Kathryn Stone, dijo que el apoyo público continuo dependía de demostrar que la tecnología se estaba utilizando correctamente: "Las fuerzas policiales deben poder demostrar que existen salvaguardias apropiadas, que los riesgos relacionados con el sesgo y la retención de datos se gestionan de manera efectiva, y que las decisiones aún están sujetas al juicio humano. Un marco estatutario más claro, estándares nacionales más sólidos y mejores acuerdos de gobernanza y supervisión son esenciales para mantener la confianza pública".
Los jefes de policía ven el reconocimiento facial como el próximo gran paso adelante en la lucha contra el crimen y como la próxima gran amenaza a las libertades civiles para los escépticos.
Jasleen Chaggar, de Big Brother Watch, dijo: “Las revelaciones de que los agentes están tratando el reconocimiento facial como evidencia auténtica en lugar de como una puntuación de probabilidad son alarmantes.
“Este enfoque aumenta significativamente el riesgo de que más personas inocentes tengan agentes tocando a su puerta para arrestarlas por crímenes cometidos en ciudades que nunca han visitado, como hemos visto antes.
“Peor aún, la policía ni siquiera registra el uso del reconocimiento facial retrospectivo, lo que significa que las personas podrían convertirse injustamente en sospechosas en investigaciones criminales sin siquiera darse cuenta de por qué han sido acusadas.
"No se puede permitir que la policía siga usando el algoritmo con tan pocas salvaguardias y en entornos sesgados que tienen más probabilidades de identificar erróneamente a mujeres, asiáticos y negros y buscar millones de imágenes de custodia ilegal".
Ben Russell, líder de reconocimiento facial del Consejo de Jefes de Policía Nacional, dijo: "La policía sigue comprometida con el uso ético, proporcionado y responsable del reconocimiento facial retrospectivo para ayudar a investigar delitos, llevar a los delincuentes ante la justicia y mantener seguras a las comunidades, y nos complace que HMICFRS haya reconocido las interesantes posibilidades de esta tecnología".
El profesor Pete Fussey de la Universidad de Southampton, ex asesor policial en reconocimiento facial, dijo: "El escrutinio humano significativo de los sistemas de IA es un requisito legal, pero el informe ofrece ejemplos de investigadores que toman las sugerencias de la computadora al pie de la letra sin más controles".
