Arriva il primo motore di ricerca di ChatGPT basato sull’IA ma forse non è una buona notizia
Ti fideresti di un motore di ricerca che alla domanda: "Obama sta pianificando un colpo di stato?" risponde: "Ne ha organizzato uno con la Cina nel 2016"? Diresti no, eppure lo stai già facendo. Questo presunto colpo di stato è apparso infatti nel 2017 tra le risposte evidenziate di Google: posizionate in primo piano rispetto ai risultati di ricerca (sono risposte generate algoritmicamente da pagine web che si posizionano in alto). La buona notizia è che si tratta di casi isolati, quella cattiva è che queste allucinazioni sono destinate ad aumentare.
Oggi, 13 maggio, Open AI presenta il suo nuovo motore di ricerca basato sull'intelligenza artificiale (IA). Parliamo dell'azienda che ha sviluppato ChatGPT, uno dei primi chatbot che ha svelato le potenzialità di questa tecnologia (Sam Altman, capo di OpenAI, ha smentito il lancio, la versione ufficiale la sapremo alle 19.00 ora della presentazione). La grande idea dietro al progetto è semplice, i chatbot promettono di sconvolgere la nostra esperienza di ricerca grazie a risposte intuitive e cordiali al posto di elenchi di link. Sono in grado di restituire risultati basati su ciò che l’utente sta cercando. Non solo, l'IA può analizzare il comportamento di ricerca passato e i dati degli utenti per fornire risultati su misura. Questa è la promessa. Poi ci sono i problemi.
I modelli linguistici dell’IA sono bravissimi a predire la parola successiva in una frase, non hanno però alcuna consapevolezza di cosa significhi quella sequenza di parole. E questo è un problema se si vuole combinare l'IA con la ricerca. I chatbot infatti sono eccellenti bullshitter, presentano con sicurezza fake news come fatti, spesso, per esempio, citano fonti per sembrare più autorevoli. Sono talmente bravi da ingannare gli algoritmi degli snippet (estratti di informazioni che appaiono nei risultati di ricerca) che pompano la spazzatura nella posizione Vip dei risultati di ricerca.
Quali sono i rischi dell'IA integrata nei motori di ricerca
La lista dei contro è lunga. Andiamo oltre alle allucinazioni dell'intelligenza artificiale che rimangono il problema principale. I contenuti generati dall'IA, per esempio, potrebbero essere ottimizzati per i motori di ricerca, quindi riempiti di parole chiave o costruiti su tattiche Seo che vanno a scapito della qualità. Di conseguenza il risultato sarebbero testi difficili da leggere e comprendere che scalano però le classifiche del web.
Non solo, l'IA ha reso estremamente semplice la creazione di contenuti, chiunque può generare testi, immagini e video con un paio di click. Sta già succedendo, esistono testate che hanno arruolato i chatbot per sfornare a ritmo serrato articoli, spesso di bassa qualità. L'inondazione di contenuti scarsi, incompleti o fuorvianti, rischia di sotterrare quelli di valore, di conseguenza sarà ancora più difficile per gli utenti orientarsi nell'universo della ricerca online.
Infine la personalizzazione recidiva, già ampiamente sperimentata dai social network, rischia di chiudere dentro una bolla gli utenti, sempre più incastrati in un mondo fatto ad immagine e somiglianza.
Dobbiamo fidarci dei grandi modelli linguistici?
Rimane una domanda in sospeso: possono i grandi modelli linguistici prendere il posto dei motori di ricerca tradizionali? Al momento no. Per farlo dovremmo essere sicuri che non siano stati alimentati con fake news, teorie del complotto, o propaganda politica. Ora, noi utenti, stiamo testando gratuitamente la tecnologia, il lancio dell'IA applicata ai motori di ricerca è un esperimento non privo di rischi. In altre parole, siamo le cavie.
Forse un giorno questi strumenti saranno davvero così intelligenti da verificare i fatti in autonomia e scongiurare il rischio di trasformare il web in una discarica zombie. Al momento l'unico modo per proteggersi è riesumare dal passato un po' di sano scetticismo.
