Την ανάγκη να μπουν φραγμοί στη χρήση τεχνολογιών αναγνώρισης προσώπου από την αστυνομία, υπογράμμισαν ακτιβιστές για την προστασία των ανθρωπίνων δικαιωμάτων στο ψηφιακό πεδίο.

Σύμφωνα με έρευνα κυβερνητικού οργανισμού στις ΗΠΑ, ορισμένα συστήματα αναγνώρισης προσώπου πραγματοποιούν λανθασμένη αναγνώριση σε μέλη εθνικών μειονοτήτων 10 ως 100 φορές περισσότερο από όσο συμβαίνει με λευκούς.

Πόλεις όπως το Σαν Φρανσίσκο και το Όκλαντ έχουν ήδη απαγορεύσει τη χρήση λογισμικού αναγνώρισης προσώπου από τις αστυνομίες τους.

Η αστυνομία χρησιμοποιεί την αναγνώριση προσώπου σε υλικό από τις κάμερες που έχουν πάνω τους οι αστυνομικοί, από κάθε είδους κάμερες παρακολούθησεις και από φωτογραφίες και βίντεο που δημοσιεύονται στα μέσα κοινωνικής δικτύωσης.

Ώστόσο οι αλγόριθμοί πίσω από την τεχνητή νοημοσύνη και τη μηχανική μάθηση των συστημάτων αναγνώρισης προσώπου δεν έχουν δοκιμαστεί αρκετά σε άτομα από εθνκές μειονότητες και παράγουν λάθος αποτελέσματα.

Αν και οι εταιρείς λογισμικού προσπαθούν να χρησιμοποιήσουν πιο αντιπροσωπευτικά δεδομένα, τα αποτελέσματα εξακολουθούν να είναι απογοητευτικά.

Μια τέτοια περίπτωση είναι το Rekognition της Amazon, που σε μια δοκιμή το 2018 αναγνώρισε αφροαμερικανούς γερουσιαστές σε φωτογραφίες συλληφθεντων.