Sara, fermata da un algoritmo: “Il riconoscimento facciale mi ha scambiato per una ladra”
"Ero appena entrata nel negozio quando un commesso si avvicina e mi dice: sei una ladra devi andartene subito". Sara (il nome è di fantasia, la vittima vuole rimanere anonima), viene cacciata, perquisita, "mi dicono che non sarei potuta più entrare in nessuno dei loro negozi", racconta alla Bbc. "Ho pianto mentre tornavo a casa, mi sono chiesta, cosa sta succedendo?." Per capirlo riavvolgiamo il nastro.
Sara entra nel negozio, il suo volto viene inquadrato da una telecamera, Facewatch, il sistema di riconoscimento facciale trova una corrispondenza, e abbina il suo volto a quello di una ladra che aveva già rubato nel negozio. Sara è innocente, ma non importa. La storia ha un lieto fine, Facewatch infatti dopo aver rilevato l'errore nel sistema biometrico ha scritto a Sara per scusarsi. La storia diventa però un pretesto per toccare con mano i rischi dei sistemi biometrici.
L'obiettivo del riconoscimento facciale è osservare, elaborare, catalogare. Non solo, ha anche discriminato, e violato la privacy delle persone. La tecnologia, come dimostra la storia di Sara, commette ancora moltissimi errori. Eppure le forze dell'ordine stanno implementando i sistemi biometrici per individuare i potenziali criminali.
Tra il 2020 e il 2022 la polizia inglese ha utilizzato nove volte il riconoscimento facciale dal vivo. L’anno successivo 23. Nel 2024 è stata utilizzata 67 volte. E il fenomeno sembra destinato a crescere. Per citare Zygmunt Bauman, sociologo e filosofo, più libertà abbiamo e più sicurezza perdiamo, più sicurezza abbiamo e più libertà perdiamo. La tecnologia sta mettendo ulteriormente alla prova questo equilibrio difficile.
Come funziona Facewatch
Il sistema di riconoscimento facciale si chiama Facewatch e viene utilizzato in diversi negozi nel Regno Unito, tra questi Budgens, Sports Direct e Costcutter, per identificare i taccheggiatori. Le telecamere catturano migliaia di volti, che vengono poi abbinati a quelli presenti nelle liste di controllo della polizia.
Lindsey Chiswick, direttrice dell'intelligence del Met, ha spiegato alla BBC che la tecnologia è veloce ed efficace: "Ci vuole meno di un secondo perché la tecnologia crei l'immagine biometrica del volto di una persona, la confronti con la watchlist personalizzata o la elimini automaticamente quando non c'è corrispondenza". Quest'anno, ha aggiunto la polizia inglese, sono state arrestate 192 persone grazie alla tecnologia biometrica.
I rischi dei sistemi di riconoscimento facciale
Secondo Silkie Carlo, direttrice di Big Brother Watch, ong per le libertà civili, "la maggior parte delle persone non sa cosa sia veramente il riconoscimento facciale, sono anni che documento questa tecnologia, chiunque viene scansionato entra a far parte di uno schieramento nei database della polizia digitale". Ha poi aggiunto: "Se una persona viene scambiata, può essere arrestata, interrogata, e dovrà dimostrare la sua innocenza alla polizia".
I sistemi di riconoscimento facciale rischiano di violare la nostra privacy, discriminare i clienti e diventare uno strumento per la sorveglianza di massa. Non solo. I dati potrebbero essere hackerati, utilizzati dai criminali per creare video deepfake o raccolti per studi di mercato, senza il consenso dei legittimi proprietari.
