Quand un algorithme devient verdict : l’arrestation erronée qui met à mal le système de reconnaissance faciale le plus ancien de la police

En août 2024, un habitant de Fort Myers de 34 ans, Juan Martinez, a été arrêté après une enquête sur un enlèvement d’enfant. Une caméra de surveillance a capturé une image fugitive du suspect, que la base de données policière interne a identifiée grâce à un système de reconnaissance faciale déclarant une confiance de 92 %. Les forces de l’ordre ont considéré cette correspondance comme décisive et l’ont placé en détention sans enquête supplémentaire, suscitant immédiatement une vive polémique. Sur le plan politique, ce cas révèle l’intégration rapide des technologies biométriques dans les procédures policières, souvent sans mécanismes de contrôle transparents. Sur le plan économique, les municipalités s’exposent à des coûts de litiges et à des indemnités pouvant atteindre plusieurs millions de dollars, tandis que les fournisseurs continuent de vanter des scores de confiance élevés, masquant parfois les biais inhérents. Sur le plan social, l’incident affaiblit la confiance du public, notamment dans les communautés historiquement sur‑policées, et montre le danger d’une substitution du jugement humain par des algorithmes peu fiables. La reconnaissance faciale a été testée pour la première fois par la police de Miami‑Dade au début des années 2000, avant de se généraliser dans une vingtaine d’agences à travers les États‑Unis. Les premières implémentations étaient souvent critiquées pour leurs taux d’erreur élevés, notamment chez les personnes de couleur. Depuis, les fournisseurs ont amélioré leurs algorithmes, mais les audits indépendants restent rares, et les recours judiciaires, comme celui engagé par l’ACLU, cherchent à imposer des standards de précision et de transparence avant que les images biométriques ne deviennent preuve décisive en cour. À l’avenir, le scandale pourrait pousser les législateurs à instaurer des audits obligatoires, des comités d’over sight indépendants et des seuils de confiance inférieurs à ceux actuellement utilisés pour établir une probable cause. De telles mesures pourraient conduire à des protocoles hybrides associant vérification biométrique et contrôle humain, afin de concilier l’efficacité technologique avec le respect des droits constitutionnels et la confiance du public.