“I chatbot diventeranno più intelligenti di noi”: l’allarme del padre dell’intelligenza artificiale

Succede spesso quando si tratta di grandi invenzioni, il padre che rinnega il figlio. E l’intelligenza artificiale non fa eccezione. Geoffrey Hinton, 75 anni, è stato uno dei pionieri della ricerca sull’apprendimento profondo delle reti neurali, il processo che sta alla base dell’IA generativa, e ha deciso di dimettersi da Google. Ha detto al New York Times che i chatbot sono “abbastanza spaventosi” e che anche se "in questo momento, non sono più intelligenti di noi, penso che presto potrebbero esserlo."

C’è anche la grande paura, quella che torna ogni volta che si affaccia una rivoluzione tecnologica: e se finisse nelle mani sbagliate? I chatbot potrebbero essere strumentalizzati da attori, deformati per raggiungere obiettivi pericolosi. Non solo, l’intelligenza artificiale secondo Hinton metterebbe a rischio anche la pluralità di pensiero, attraverso risposte simili e omologate all'ideologia dominante. E come spiega il padrino dell'IA tappare tutte le falle è una corsa contro il tempo: "Guarda com'era cinque anni fa e com'è adesso".

I chatbot più intelligenti degli umani

Per prima cosa non ha più l’età per i sentimenti forti, Hinton ha spiegato alla BBC: "Ho 75 anni, quindi è ora di andare in pensione". Dietro la sua scelta però non c’è solo una lunga carriera ma anche la paura. E Hinton lo sa bene perché l’intelligenza artificiale lui l’ha vista evolvere e ora prevede che i chatbot potrebbero superare il livello di informazioni detenute dal cervello umano. 

"In questo momento, il rischio è che GPT-4 e strumenti simili, eclissino una persona nella conoscenza generale”, ha spiegato alla BBC. "E dato il ritmo dei progressi, ci aspettiamo che le cose migliorino abbastanza velocemente. Quindi dobbiamo preoccuparcene."

I rischi dell'IA generativa

C’è anche il problema dei “cattivi attori”, come ha spiegato Hinton al New York Times, l’intelligenza artificiale è uno strumento potente e se finisse nelle mani sbagliate potrebbe diventare pericoloso e fare “cose malvagie”. Quando la BBC ha chiesto a Hinton come i chatbot potrebbero essere usati a danno degli utenti, l’esperto di informatica ha detto: “Prendiamo come esempio lo scenario peggiore, da incubo. Immaginiamo un cattivo attore, come Putin”, che secondo Hinton potrebbe usare i chatbot per avere più potere. Potrebbero anche essere usati come strumenti per manipolare il pensiero e per molti l’integrazione dell'IA nei motori di ricerca potrebbe uccidere il pluralismo creando una cultura univoca dettata dalle risposte che sfornano i chabot.

"Sono giunto alla conclusione che il tipo di intelligenza che stiamo sviluppando è molto diverso dall'intelligenza che abbiamo. Noi siamo sistemi biologici e questi sono sistemi digitali. E la grande differenza è che con i sistemi digitali hai molte copie dello stesso set, lo stesso modello del mondo”, il rischio quindi sarebbe quello di uniformare il pensiero attraverso risposte standard. "È come se avessi 10.000 persone e ogni volta che una persona ha imparato qualcosa, tutti lo sanno automaticamente. Ed è così che questi chatbot possono sapere molto di più di qualsiasi persona." Hinton ha messo le mani avanti e ha anche spiegato che non vuole criticare Google,  il colosso tecnologico è stato "molto responsabile". "In realtà vorrei dire alcune cose positive. E sono più credibile se non lavoro per Google."