Cosa sappiamo di Giove, l’algoritmo con cui la polizia italiana vuole prevedere i reati
Si chiama Giove ed è il nuovo sistema di polizia predittiva per "prevenire e reprimere" i reati. In poche parole un algoritmo di intelligenza artificiale che attingendo alle banche dati delle forze dell'ordine riesce a predire dove e quando determinati crimini possono essere commessi. Qualcosa di simile l'aveva già immaginato Philip Dick in Minority Report, dove la polizia Precrime, in grado di prevedere i reati, era riuscita a cancellare i crimini dalla faccia della Terra, (nonostante questo il racconto non finisce bene). Il Dipartimento di pubblica sicurezza del ministero dell’Interno, che ha sviluppato il progetto, vorrebbe distribuire Giove in tutte le stazioni di polizia italiane eppure diverse ricerche hanno dimostrato che questi sistemi non sono così affidabili. Si aggiunge poi il problema della privacy e il rischio che gli algoritmi discriminino le persone in base all'etnia e alla provenienza geografica. È già successo.
Sia chiaro, Giove non è un software in grado di dire alla polizia dove e quando verrà commesso un crimine e quindi permettere di cogliere sul fatto chi compie un reato. È più un supporto tecnico che, analizzando le denunce racconte, suggerisce per esempio dove e come dislocare gli agenti, o quali aree e orari coprire. Ogni reato infatti è composto da diversi elementi: arma, luogo, ora, quartiere, periodo dell'anno o condizioni meteo. Combinando le variabili e mettendole a sistema, Giove potrebbe ottimizzare gli sforzi della polizia per prevenire i reati a maggior impatto sociale. E infatti viene descritto come "un sistema di elaborazione e analisi automatizzata per l'ausilio alle attività di polizia".
Quali sono i rischi del sistema Giove
Giove è nato nel 2020 dentro il Dipartimento di pubblica sicurezza del ministero dell’Interno. In realtà ricorda un po' un software che è stato creato nel 2008 dall’ex assistente capo della questura di Milano Mario Venturi, e si chiama KeyCrime. Come Giove è un programma per creare una previsione statistica analizzando migliaia di dati, dove sono stati compiuti i crimini , a che ora, o in quali condizioni meteo. Il software di Venturi è stato però programmato per prevedere le rapine in ambito commerciali, Giove punta ad estendere il campo d'azione anche ai furti nelle abitazioni, alle truffe, ai raggiri o alle molestie e violenze sessuali. L'idea di creare macroschemi o cogliere correlazioni invisibili all'occhio umano c'è da tempo.
La ricerca di comportamenti ripetuti per prevedere un reato si chiama crime linking, e può funzionare bene per alcune tipologie di crimine, meno per altre. Se le rapine in ambito commerciale hanno spesso dei denominatori comuni, crimini come una violenza sessuale potrebbero invece essere caratterizzate da tratti peculiari più difficili da mettere a sistema. Non solo. I pregiudizi algoritmici rischiano di creare delle false correlazioni. I bias dell'intelligenza artificiale sono evidenti e hanno già sollevato numerosi problemi, spesso discrimina in base all'etnia o alla provenienza geografica. Si aggiunge un terzo problema, quello della privacy e delle libertà personali, per questo il Garante della privacy dovrà esprimere il suo parere su Giove prima che venga utilizzato nelle stazioni di polizia. Poco chiaro al momento quali dati sono stati usati per addestrare l'algoritmo e chi è il responsabile del trattamento dei dati.
L'interrogazione parlamentare su Giove
Il senatore del PD Filippo Sensi ha presentato ha presentato un'interrogazione parlamentare al Ministero dell'Interno per chiedere nuove informazioni su Giove. Nello specifico la richiesta è quella di fornirei informazioni più dettagliate su "quali interventi il Ministero dell'Interno intenda mettere in atto per introdurre il sistema Giove in Italia, se esistono altri software di questo tipo già in uso o dei quali si prospetta l'utilizzo, quali aziende siano state coinvolte nella definizione di questa tecnologia, della sua implementazione e del suo sviluppo".
