Da adesso sarà un problema usare ChatGpt per copiare a scuola: arriva l’app per stanarla

ChatGpt è un secchione che ha letto praticamente tutto quello che circola sul web. È versatile, brillante e bravissimo a imitare il linguaggio umano. Come ogni primo della classe che si rispetti è anche quello da cui tutti copiano.

È bastato poco tempo, poi gli studenti hanno capito il potenziale dell’intelligenza artificiale e hanno cominciato a usare ChatGpt per scrivere saggi, temi, riassunti. Scatta il panico e inizia una caccia alle streghe, tutte le scuole di NewYork vietano il chatbot, sui social gli insegnanti gridano aiuto. Eppure un antidoto c’è già, si chiama GPTZero, ed è solo uno dei tanti.

L'app che svela il trucco

Edward Tian ha 22 anni, è un ingegnere informatico della Princeton University, e durante le vacanze di Natale ha progettato GPTZero, capace di “decifrare in modo rapido ed efficiente se un essere umano o ChatGPT ha scritto un saggio”. Ha deciso di creare l’app per contrastare l’aumento di plagi in ambito scolastico e universitario. Da fine novembre, quando è stato rilasciato ChatGpt, moltissimi studenti si sono rivolti al chatbot per copiare ogni prova scritta.

Perché GPTZero?

"C'è così tanto clamore su ChatGpt in giro. Questo e quello sono stati scritti da AI? Noi umani meritiamo di saperlo!" ha scritto Tian in un tweet presentando GPTZero.

“La scrittura generata dall'intelligenza artificiale migliorerà sempre di più. Sono entusiasta di questo futuro, ma dobbiamo realizzarlo in modo responsabile”, ha poi aggiunto Tian. L’app è stata rilasciata il 2 gennaio, e più di 30.000 persone l’hanno testata entro una settimana dal lancio. Tian ha anche raccontato che moltissimi insegnanti lo hanno contattato riportando risultati positivi.

"Per così tanto tempo, l'intelligenza artificiale è stata una scatola nera in cui non sappiamo davvero cosa sta succedendo all'interno", ha detto. "E con GPTZero, volevo iniziare a respingere e lottare contro questo."

Il talento di ChatGpt

ChatGpt, creato da OpenAI, è l’intelligenza artificiale più performante mai diffusa al pubblico. È un modello di linguaggio di grandi dimensioni (LLM) potenziato con un'interfaccia conversazionale, è stato addestrato su centinaia di terabyte di testo, la maggior parte probabilmente scaricati dal web, quindi si potrebbe dire che ha “letto” o comunque ingerito, quasi tutto ciò che è stato pubblicato online. Almeno fino a dicembre del 2021, data in cui gli sviluppatori hanno smesso di raccogliere materiale.

Per questo è in grado di scrivere storie, saggi, dialogare, chattare su Tinder al posto degli utenti, contestare premesse errate e rifiutare richieste inappropriate. Gli utenti possono anche chiedere riformulazioni, riassunti ed espansioni dei testi prodotti. E così l'intelligenza artificiale è diventata lo strumento perfetto per copiare a scuola o all’università.

Come funziona GPTZero?

GPTZero analizza determinati parametri per verificare se un testo è stato scritto da un umano o da un’intelligenza artificiale. Per esempio misura la complessità, più è alta, più è probabile che appartenga a una persona, oppure la variazione dei periodi: un’ intelligenza artificiale tenderà a scrivere con uno stile uniforme.

In un video dimostrativo, Tian ha confrontato l'analisi dell'app di una storia sul New Yorker e un post su LinkedIn scritto dall’intelligenza artificiale. L’app è riuscita a distinguere con successo i due testi e scovare il pezzo scritto da ChatGpt.

Tuttavia, il tasso di successo di GPTZero non è chiaro. Alcuni utenti su Twitter hanno spiegato di non essere riusciti a catturare alcuni dei campioni scritti dall'intelligenza artificiale. Tra i commenti al tweet di Tian, c'è anche chi lo definisce un "narcotrafficante", lasciando intendere che vende bene un prodotto che non funziona.

Margini di miglioramento

Tian ha scritto, sulla newsletter di Substack, che più di 10.000 persone hanno testato la versione pubblicamente disponibile di GPTZero su Steamlit, anche se al momento della stesura, sia l’app gptzero.me, sia  la versione sulla piattaforma, a causa del traffico stanno riscontrando interruzioni.

Tian, sempre su Substack, ha spiegato di aver aggiornato il modello GPTZero per "ridurre significativamente il tasso di falsi positivi e migliorare i risultati di output”. Tian ha anche spiegato che pubblicherà un documento con le statistiche di accuratezza dell’app, basandosi sugli articoli pubblicati dai giornali universitari e alle analisi svolte dal gruppo di Natural language processing di Princeton.

GPTZero "non è pensato per essere uno strumento per impedire l'utilizzo di queste tecnologie", ha affermato. "Ma con qualsiasi nuova tecnologia, dobbiamo essere in grado di adottarla in modo responsabile e abbiamo bisogno di misure di salvaguardia".

Una corsa per frenare i plagi

A dicembre, Scott Aaronson, ricercatore di OpenAI, ha rivelato che la società sta lavorando a una nuova soluzione per "filigranare" il testo generato da GPT con un "segnale segreto impercettibile" che permette di identificare la fonte.

La community AI open source Hugging Face, invece, ha messo a punto uno strumento per rilevare se il testo è stato creato da GPT-2, la versione precedente del modello AI. È stato anche creato Detect Gpt, un’estensione di Google Chrome, che, una volta installato è in grado di rilevare se un testo è stato generato o meno da un’intelligenza artificiale.