“Una nuova intelligenza artificiale potrebbe minacciare tutti”: la lettera del team di Open AI
Tutto inizia con un'operazione matematica corretta. A farla è l'intelligenza artificiale (IA), e nonostante si tratti di un calcolo banale potrebbe cambiare tutto. I ricercatori di Open AI lo sanno e hanno paura. Decidono di scrivere al consiglio di amministrazione dell'azienda una lettera, per informarli di una nuova scoperta che potrebbe "minacciare l'umanità". Il team da tempo lavora al progetto Q*, il suo obiettivo è comprendere le applicazioni dell'intelligenza artificiale al ragionamento logico e matematico, in altre parole permettere alle macchine di svolgere qualsiasi operazione intellettuale, come se fossero esseri umani. E questo è un problema, secondo i ricercatori infatti il nuovo modello, chiamato Artificial General Intelligence (Agi), non è pronto per essere commercializzato, perché è "coperto da un velo di ignoranza".
Ora ChatGPT è in grado di scrivere testi, rispondere alle domande, fare ricerche. Per sviluppare abilità matematiche serve una capacità di ragionamento che va ben oltre l'accostamento di frasi ripescate dal web. Capacità di ragionamento che il team ancora non comprende a pieno. Una fonte interna, che è rimasta anonima, ha rivelato a Reuters che i test svolti dal progetto Q* hanno dato risultati positivi, l'IA è stata in grado di risolvere le prime operazioni matematiche, ma il modello non è pronto per essere lanciato sul mercato, "c'è ancora troppa poca consapevolezza", scrivono nella lettera.
Dietro il licenziamento di Sam Altman
Secondo le fonti la lettera sarebbe arrivata al consiglio di amministrazione quattro giorni prima del licenziamento di Altman, che ora è stato reintegrato come amministratore delegato di OpenAI. Oltre 700 dipendenti che hanno lavorato a ChatGPT avevano infatti minacciato di dimettersi e seguirlo a Microsoft. Le preoccupazioni scritte nella lettera sarebbero, secondo il team, uno dei motivi principali del temporaneo licenziamento di Altman.
Il Ceo di OpenAI, durante un summit a San Francisco, aveva rivelato: "Per quattro volte nella storia di OpenAI, l'ultima delle quali nelle ultime due settimane, ho avuto la possibilità di essere nella stanza in cui si spinge il velo dell'ignoranza indietro e la frontiera della scoperta in avanti, e poterlo fare è l'onore professionale di una vita".
Perché i ricercatori hanno paura dell'IA
I ricercatori considerano la matematica una frontiera dello sviluppo dell’intelligenza artificiale generativa. Al momento l'IA è in grado di scrivere e tradurre testi, riesce infatti a prevedere statisticamente la parola successiva, ma le risposte alla stessa domanda possono variare. Se riuscisse a sviluppare capacità matematiche, al quel punto ci sarebbe solo una risposta corretta, e quindi servirebbe una capacità di ragionamento maggiore e più simile all’intelligenza umana.
Secondo i ricercatori il nuovo modello potrebbe anche svolgere in modo autonomo ricerche scientifiche. A differenza di una calcolatrice che può risolvere un numero limitato di operazioni, Agi potrebbe apprendere e comprendere. Non a caso viene definita da OpenAI come il sistema di intelligenza artificiale più intelligente degli esseri umani.
