Queste nuove telecamere di riconoscimento facciale tracciano chi è troppo cordiale nei negozi

Corsight AI, azienda con sede in Israele, ha lanciato un nuovo servizio per i suoi clienti: un sistema di riconoscimento facciale che traccia "comportamenti anomali" all'interno dei negozi. L'obiettivo è segnalare possibili taccheggiatori. Non solo, le telecamere vogliono anche monitorare chi trae vantaggio dai rapporti personali con i dipendenti, chi riceve per esempio sconti o articoli gratuiti.

L'ultimo prodotto di Corsight si inserisce in un nuovo mercato in crescita pieno di problemi. Le telecamere osservano, elaborano e catalogano. Non solo, hanno anche discriminato, e violato la privacy delle persone. Questa tecnologia commette ancora moltissimi errori, eppure sempre più negozi stanno implementando i sistemi biometrici per individuare i potenziali criminali. Negli ultimi anni, infatti, le grandi catene di vendita hanno integrato sistemi di sorveglianza algoritmica sempre più avanzati.

Come funziona il riconoscimento facciale di Corsight

Il nuovo sistema di rilevamento monitora l'interazione del cliente con i dipendenti per lunghi periodi di tempo. Come ha spiegato Shai Toren, Ceo di Corsight a Gizmodo, "se vai in un negozio di solito scegli uno qualsiasi dei cassieri e vai a scansionare i tuoi prodotti. Se qualcuno sta pianificando un furto andrà sempre nello stesso cassiere, spesso un parente. Il nostro sistema è in grado di identificare questa anomalia e lanciare un'allerta al titolare del negozio”.

Corsight ha anche citato un rapporto della National Retail Federation sul furto al dettaglio che avrebbe rappresentato il 29% delle perdite dell'inventario per i negozi, "il nostro sistema vuole ridurre questi furti".

Perché non dovremmo usare i sistemi di sorveglianza

Il sistema presenta diversi problemi. Come ha spiegato Chelsea Connor, direttore delle comunicazioni per la Retail, Wholesale e Department Store Union (RWDSU) "questa tecnologia può essere molto pericolosa, il sistema si basa su un'ipotesi sbagliata, non è detto che un cliente che sceglie di andare dallo stesso cassiere stia cercando di truffare il negozio". E infatti spesso i dipendenti cercano di sviluppare relazioni con i clienti per spingerli a tornare a comprare, spiega Coonor.

Caitlin Seeley George, amministratrice delegata dell'organizzazione no-profit Fight for the Future, ha chiesto ai rivenditori di impegnarsi a non utilizzare il riconoscimento facciale. Secondo George i sistemi di sorveglianza potrebbero anche essere utilizzati per profilare il comportamento dei clienti per scopi di marketing.

Le discriminazioni dell'algoritmo

Secondo Silkie Carlo, direttrice di Big Brother Watch, ong per le libertà civili, "la maggior parte delle persone non sa cosa sia veramente il riconoscimento facciale, sono anni che documento questa tecnologia, chiunque viene scansionato entra a far parte di uno schieramento nei database della polizia digitale". Ha poi aggiunto: "Se una persona viene scambiata, può essere arrestata, interrogata, e dovrà dimostrare la sua innocenza alla polizia".

I sistemi di riconoscimento facciale rischiano di violare la nostra privacy, discriminare i clienti e diventare uno strumento per la sorveglianza di massa. Non solo. I dati potrebbero essere hackerati, utilizzati dai criminali per creare video deepfake o raccolti per studi di mercato, senza il consenso dei legittimi proprietari.