Les inspecteurs découvrent que certains agents ont agi sur des correspondances potentielles issues de recherches rétrospectives sans effectuer suffisamment de contrôles
Les policiers risquent d'arrêter des innocents, notamment issus de minorités ethniques, s'ils traitent des données de reconnaissance faciale inexactes comme des preuves, selon un rapport officiel.
Bien que la technologie puisse aider à lutter contre la criminalité, le rapport révèle qu'elle est entachée d'erreurs et de préjugés, et que les opérateurs ne réalisent pas toujours qu'ils doivent mener des enquêtes plus approfondies pour vérifier les données.
Le rapport de l’Inspection de la gendarmerie de Sa Majesté, publié mercredi, ne couvre que la reconnaissance faciale rétrospective. La technologie est considérée comme moins controversée et moins difficile à maîtriser que la reconnaissance faciale en direct, qui est utilisée en temps réel pour retrouver des suspects.
"Certains enquêteurs ne savaient pas que les résultats du RFR constituaient des renseignements plutôt que des preuves et nécessitaient des enquêtes plus approfondies avant que les agents ne prennent des mesures coercitives", indique le rapport.
« Cela crée un risque que des personnes soient identifiées à tort ou arrêtées, ce qui pourrait miner la confiance du public dans la technologie.
"Nous avons constaté que certains enquêteurs ne menaient pas toujours suffisamment d'enquêtes de corroboration avant d'agir sur des correspondances potentielles. Dans un petit nombre de cas, les agents se sont trop appuyés sur les résultats du RFR, ce qui a conduit à des mesures d'enquête inappropriées."
Le rapport indique qu'il existe encore des problèmes de biais dans l'algorithme, notamment le fait qu'il est plus susceptible de signaler à tort des personnes issues de minorités ethniques comme suspects.
Il a déclaré : "Il faut faire davantage pour réduire les risques d'arrestations injustifiées... Les auditeurs ont également identifié des cas où les utilisateurs ont téléchargé des images d'enquête de mauvaise qualité ou inadaptées, notamment des images floues et des images contenant plusieurs visages. Ces facteurs ont réduit la capacité du système à renvoyer des correspondances fiables."
Les inspecteurs ont également constaté un risque d'ébranlement de la confiance du public dans la mesure où des images de garde qui auraient dû être supprimées étaient en fait conservées.
Le rapport indique : "Les inspecteurs ont constaté que la législation n'a pas suivi l'évolution de la technologie de reconnaissance faciale et qu'il n'existe pas de cadre statutaire complet régissant l'utilisation de cette technologie. Cela rend plus difficile pour les forces de l'ordre de comprendre la base légale de l'utilisation du RFR et quelles garanties sont nécessaires pour protéger le public."
L'inspecteur de la gendarmerie de Sa Majesté, Kathryn Stone, a déclaré que le soutien public continu dépendait de la démonstration que la technologie était utilisée correctement : "Les forces de police doivent être en mesure de montrer que des garanties appropriées sont en place, que les risques liés aux préjugés et à la conservation des données sont gérés efficacement et que les décisions sont toujours soumises au jugement humain. Un cadre statutaire plus clair, des normes nationales plus strictes et des dispositifs de gouvernance et de surveillance améliorés sont essentiels pour maintenir la confiance du public."
La reconnaissance faciale est considérée par les chefs de police comme le prochain grand pas en avant dans la lutte contre la criminalité et comme la prochaine menace majeure pour les libertés civiles par les sceptiques.
Jasleen Chaggar, de Big Brother Watch, a déclaré : « Les révélations selon lesquelles les agents traitent la reconnaissance faciale comme une preuve de bonne foi plutôt que comme un score de probabilité sont alarmantes.
« Cette approche augmente considérablement le risque qu’un plus grand nombre d’innocents soient confrontés à des agents qui frappent à leur porte pour les arrêter pour des crimes commis dans des villes qu’ils n’ont jamais visitées, comme nous l’avons vu auparavant.
« Pire encore, la police n’enregistre même pas son utilisation de la reconnaissance faciale rétrospective, ce qui signifie que des personnes pourraient devenir à tort des suspects dans des enquêtes criminelles sans même se rendre compte de la raison pour laquelle elles ont été accusées.
"La police ne peut pas être autorisée à continuer à utiliser l'algorithme avec si peu de garanties et dans des contextes biaisés qui sont plus susceptibles d'identifier mal les femmes, les Asiatiques et les Noirs et de rechercher des millions d'images détenues illégalement."
Ben Russell, responsable de la reconnaissance faciale au Conseil national des chefs de police, a déclaré : « La police reste engagée dans une utilisation éthique, proportionnée et responsable de la reconnaissance faciale rétrospective pour aider à enquêter sur les crimes, traduire les délinquants en justice et assurer la sécurité des communautés et nous sommes heureux que le HMICFRS ait reconnu les possibilités passionnantes de cette technologie.
Le professeur Pete Fussey de l’Université de Southampton, ancien conseiller de la police en matière de reconnaissance faciale, a déclaré : « Un examen humain significatif des systèmes d’IA est une exigence légale, mais le rapport donne des exemples d’enquêteurs prenant les suggestions de l’ordinateur au pied de la lettre, sans autre vérification. »
