Il padrino dell’IA lancia il suo ultimatum: “Tra 30 anni le macchine ci distruggeranno”

Geoffrey Hinton, 75 anni, è stato uno dei pionieri della ricerca sull’apprendimento profondo delle reti neurali, il processo che sta alla base dell’intelligenza artificiale generativa. In altre parole è l'uomo che ha cercato di costruire sistemi IA simili al cervello umano. Nel 2023, dopo una lunghissima carriera si licenzia da Google, per raccontare tutti i rischi delle macchine che lui stesso ha creato.

L'ultimo allarme Hinton l'ha lanciato durante il programma Today di BBc Radio 4. Secondo il padrino dell'IA “c’è una probabilità del 10-20 per cento che entro i prossimi trent’anni l’Intelligenza Artificiale provochi l’estinzione dell’umanità”. La tecnologia sta avanzando "più velocemente del previsto", e non abbiamo mai avuto a che fare con qualcosa di più intelligente di noi. "E quanti esempi conosciamo di qualcosa di più intelligente che viene controllato da qualcosa di meno intelligente?"

La grande paura di Geoffrey Hinton

Geoffrey Hinton, ha vinto insieme a John J. Hopfield il Nobel per la fisica 2024 per le sue scoperte nell'ambito dell'apprendimento automatico (intelligenza artificiale) con reti neurali artificiali, ispirate alla struttura delle reti di neuroni nel nostro cervello. Come aveva già spiegato in un'intervista al New York Times, i chatbot sono “abbastanza spaventosi” e anche se "in questo momento, non sono più intelligenti di noi, penso che presto potrebbero esserlo."

I software potrebbero anche essere strumentalizzati, deformati per raggiungere obiettivi pericolosi. L'intelligenza artificiale, secondo Hinton, metterebbe a rischio poi la pluralità di pensiero, considerate le sue risposte simili e omologate all'ideologia dominante.

"Sono giunto alla conclusione che il tipo di intelligenza che stiamo sviluppando è molto diverso dall'intelligenza che abbiamo. Noi siamo sistemi biologici e questi sono sistemi digitali. E la grande differenza è che con i sistemi digitali hai molte copie dello stesso set, lo stesso modello del mondo”, il rischio è di uniformare il pensiero attraverso risposte standard.

"È come se avessi 10.000 persone e ogni volta che una persona ha imparato qualcosa, tutti lo sanno automaticamente. Ed è così che questi chatbot possono sapere molto di più di qualsiasi persona." Come spiega il padrino dell'IA tappare tutte le falle è una corsa contro il tempo: "Guarda com'era cinque anni fa e com'è adesso".

Come proteggerci da un'IA più intelligente degli umani

"Non abbiamo esperienza di cosa significhi avere cose più intelligenti di noi", aveva detto Hinton durante una telefonata con la commissione Nobel. "Sarà meraviglioso sotto molti aspetti… Significherà enormi miglioramenti nella produttività. Ma dobbiamo anche preoccuparci di una serie di possibili conseguenze negative, in particolare la minaccia che queste cose sfuggano al controllo".

Non solo. Secondo Hinton bisogna introdurre nuove leggi per regolamentare l'IA "se la lasciamo in mano alle aziende che la producono e che seguono il profitto non verrà sviluppata in sicurezza. L’unica cosa che può costringere quelle grandi aziende a fare ulteriori ricerche sulla sicurezza è una regolamentazione del governo”.