検査官は、一部の警察官が十分なチェックを行わずに過去の調査から一致する可能性のある行為を行っていたことを発見しました
警察官が不正確な顔認識データを証拠として扱う場合、無実の人々、特に少数民族を逮捕する危険があることが公式報告書で明らかになった。
このテクノロジーは犯罪との戦いに役立ちますが、報告書によると、このテクノロジーはエラーや偏見に悩まされており、データを検証するためにさらに問い合わせる必要があることをオペレーターが必ずしも認識しているわけではありません。
水曜日に発表された国王陛下の警察監察官による報告書は、遡及的な顔認識のみを対象としている。この技術は、容疑者を見つけるためにリアルタイムで使用されるライブ顔認識よりも物議を醸すことが少なく、正しく理解するのが難しいと見なされています。
「一部の捜査官は、RFRの結果が証拠ではなく情報であることを知らなかったため、警察官が執行措置を講じる前にさらなる調査を必要とした」と報告書は述べている。
「これにより、人々が誤って特定されたり逮捕されたりするリスクが生じ、テクノロジーに対する国民の信頼が損なわれる可能性があります。
「一部の捜査官が、潜在的な一致に対処する前に必ずしも十分な裏付け調査を行っていないことが判明しました。少数のケースでは、警察官がRFRの結果に過度に依存し、それが不適切な捜査活動につながりました。」
報告書は、少数民族の人々に誤って容疑者としてフラグを立てる可能性が高くなるなど、アルゴリズムの偏りに関する問題が依然として存在すると述べた。
「人々が不当に逮捕されるリスクを軽減するには、さらなる取り組みが必要です…監査人はまた、ユーザーが不鮮明な画像や複数の顔を含む画像など、低品質または不適切な捜査画像をアップロードした事例も特定しました。これらの要因により、信頼できる一致を返すシステムの能力が低下しました。」
査察官らはまた、削除されるべきだった保管画像が実際には保存されていたため、国民の信頼が損なわれるリスクも発見した。
報告書は「査察官らは、顔認識技術の変化に法律が追いついておらず、この技術の使用を管理する包括的な法的枠組みがないことを発見した。このため、軍隊がRFR使用の法的根拠と国民を守るために必要な安全策を理解することがさらに困難になっている」と述べている。
国王陛下のキャスリン・ストーン巡査部長は、国民の継続的な支援はテクノロジーが適切に使用されていることを示すことに依存していると述べ、「警察は、適切な安全措置が講じられ、偏見やデータ保持に関するリスクが効果的に管理され、決定が依然として人間の判断に委ねられていることを示さなければならない。国民の信頼を維持するには、より明確な法的枠組み、より強力な国家基準、ガバナンスと監視の仕組みの改善が不可欠である。」と述べた。
警察署長らは顔認識を、犯罪対策における次の大きな前進と見なしており、懐疑論者らは市民の自由に対する次の大きな脅威と見ている。
Big Brother Watch の Jasleen Chaggar 氏は次のように述べています。「警察官が顔認識を確率スコアではなく正当な証拠として扱っているという事実は憂慮すべきことです。
「このアプローチは、私たちがこれまで見てきたように、より多くの無実の人々が訪れたことのない町で起きた犯罪で警察官に自宅のドアをノックさせられて逮捕されるリスクを大幅に高めます。
「さらに悪いことに、警察は過去に遡って顔認識を使用したことを記録すらしていない。つまり、人々は自分がなぜ告発されたのかさえ理解できないまま、不当に犯罪捜査の容疑者となる可能性がある。」
「警察が、女性、アジア人、黒人を誤認したり、不法に保管されている何百万もの画像を検索したりする可能性が高い偏った設定で、安全策がほとんどないこのアルゴリズムを使い続けることは許されません。」
国家警察署長評議会の顔認識責任者であるベン・ラッセル氏は、「警察当局は、犯罪捜査、犯罪者に裁きを受けさせ、地域社会の安全を守るために、遡及的顔認識を倫理的かつ適切かつ責任を持って使用することに引き続き取り組んでおり、HMICFRSがこの技術の刺激的な可能性を認識したことをうれしく思っている。」と述べた。
元顔認識に関する警察顧問を務めたサウサンプトン大学のピート・フッセイ教授は、「AIシステムに対する人間による意味ある精査は法的要件であるにもかかわらず、報告書では捜査員がコンピューターの提案をそれ以上のチェックをせずに額面通りに受け取った例を挙げている」と述べた。
