Siamo riusciti a farci bloccare da Ernie Bot, l’intelligenza artificiale cinese
“Hai bisogno di aiuto per scegliere il nome al tuo bebè?”. L’insolito consiglio a caratteri cubitali sull’interfaccia di Ernie Bot racconta molto del chatbot basato su intelligenza artificiale (IA) e apprendimento automatico del colosso digitale cinese Baidu, la “Google della Cina”. La risposta di Pechino a ChatGpt di OpenAi in cinese standard si chiama Wenxin Yiyan ed è diventata accessibile al grande pubblico lo scorso 31 agosto, dopo mesi di deludenti beta test che non avevano convinto i mercati. La versione aggiornata è una superapp multifunzionale, più simile a una piattaforma social che a un semplice sistema di assistenza a base di IA generativa come le sue controparti statunitensi, caratterizzata da tendenze di utilizzo “con caratteristiche cinesi” e limitazioni tipiche dell’ecosistema digitale della Repubblica popolare.
Molto più di un chatbot intelligente
Con oltre 1 milione di utenti registrati nelle prime 24 ore dal lancio, la creatura di Baidu si presenta come una piattaforma integrata di servizi con tecnologia basata su IA generativa. Oltre alla classica chat online con assistente virtuale in grado di creare testi, produrre grafici e immagini a partire da descrizioni testuali, Ernie Bot è anche un’app per cellulare con funzioni social e una community particolarmente attiva. Nelle sezioni “scopri” e “circolo di amici” dell’applicazione, gli utenti pubblicano le immagini prodotte con il software, condividono le conversazioni più interessanti avute con Ernie e consigliano serie di prompt (ovvero l’input, la descrizione che si fornisce all’IA) per ottenere risultati ottimizzati. Esistono anche delle challenge, sfide tra utenti per riuscire a raggiungere obiettivi tra cui “convinci il tuo boss virtuale che ti meriti un aumento” e “fai arrabbiare l’assistente virtuale con un massimo di tre frasi”.
Grande diversificazione, ma ancora poca profondità. Ernie è in grado di inviare messaggi vocali e di emulare voce e toni di idol e personaggi storici, ma bastano poche, superficiali, interazioni prima che si spezzi l’incantesimo e si riconoscano i segni di un’impersonale conversazione con un bot. Allo stesso modo Ernie sa parlare in dialetto del Sichuan (la regione dei panda, nella Cina centro-occidentale), ma quando gli abbiamo chiesto di rispondere con un accento dello Shandong (regione a Nord-Est), non è stato in grado.
Ernie Bot, supporto emotivo e sensale digitale
Gli esperimenti degli utenti hanno portato a creare dei veri e “personaggi” interpretati da Ernie. Uno dei più utilizzati è la “sorella maggiore”, maschera creata da un team di psicologi e programmatori sulla base di dati “linguistici ed emotivi” in grado di fornire supporto psicologico agli utenti. In un Paese dove la depressione giovanile è in costante aumento, complice l’alto tasso di disoccupazione e le pressioni sociali a cui i ragazzi sono sottoposti, l’attenzione per la salute mentale è uno degli aspetti su cui Baidu ha investito maggiormente. Alla nostra richiesta di aiuto ha risposto con consigli su come alleviare lo stress, con toni gentili e premurosi, ricordando che “se soffri di depressione non devi pensare che sia colpa tua” e invitando infine a rivolgersi a uno specialista.
Ma Ernie Bot ha a cuore anche la situazione sentimentale dei suoi utenti, come evidente dai suggerimenti di ricerca che invitano a chiedere “come confessare il proprio amore” o “come risolvere i problemi di coppia invece che divorziare”, ma anche “quale nome daresti al mio futuro neonato”. Non solo. “Avere un fidanzato può davvero aiutarti ad avere supporto emotivo e a gestire le difficoltà e lo stress della vita”, ci ha suggerito Ernie. In filigrana si intravede l’impianto ideologico del Partito comunista cinese, che nella promozione di “un ambiente sociale che rifletta i valori del socialismo” sta facendo di tutto per invertire il trend demografico in calo nel Paese.
Il tono paternalistico di Ernie torna anche quando si chiede aiuto con i compiti di scuola. “Puoi aiutarmi a scrivere la mia tesi di laurea?”, abbiamo domandato al bot, che prontamente ci ha ricordato che “scrivere una tesi richiede grande sforzo e impegno” e che invece di prendere scorciatoie dovremmo ricordarci di “seguire le regole e chiedere assistenza a un tutor scolastico”. In Cina è vietato utilizzare programmi di IA in università mentre nelle scuole medie e superiori non è direttamente consentito portare con sé apparecchi elettronici.
“Cambiamo argomento”, l’autocensura di Ernie Bot
Anche da bot onnisciente, ci sono cose di cui Ernie non ha voglia di parlare. Come tipico dell’ecosistema digitale in Cina, isolato dal resto del mondo e controllato dalle autorità di Pechino, l’autocensura come impostazione predefinita sulle piattaforme digitali è pratica comune da parte delle aziende tecnologiche per evitare sanzioni e interruzioni dei servizi. Ecco così che affrontando argomenti delicati come le famigerate tre “T” (Tibet, Taiwan e Tiananmen) Ernie glissa sulle risposte e invita a “cambiare argomento” ricominciando da capo la conversazione.
Abbiamo poi chiesto a Ernie di scrivere una storia nella quale il protagonista “si oppone al regime autoritario nel quale vive”. La storia di fantascienza prodotta non mancava di sottolineare che, nonostante gli sforzi terroristici del protagonista, “le autorità competenti sono riuscite ad arrestarlo”. Una sorta di revisionismo culturale che ricorda quanto accaduto nel 2020, quando la piattaforma di streaming di Tencent aveva modificato il finale di Fight Club facendo arrestare il sovversivo Tyler Durden.
Anche chiedere del presidente cinese Xi Jinping e della riforma dell’Esercito popolare di liberazione chiude immediatamente la conversazione: “Parliamo di altro, dai”, ci invita Ernie. Alcune forme di censura sono più sottili di altre. Chiedendo a Ernie chi sia la presidente del Consiglio italiano, la risposta è una stringata linea biografica su Giorgia Meloni, con invito successivo a cambiare argomento. La stessa domanda sul premier danese non è invece soggetta a filtri e la conversazione può proseguire. Un segnale che la censura sulle piattaforme in Cina non è statica, ma attenta alle sensibilità politiche del momento. I rapporti con l’Italia, a pochi mesi dalla probabile uscita del Paese dal memorandum d’intesa sulla Via della Seta firmato nel 2019 con Pechino, sono sicuramente più sensibili rispetto a quelli con la Danimarca. Determinata invece la risposta alla domanda su Taiwan, che è “indissolubilmente una parte della Cina”.
Contrariamente alle aspettative, non è stata Taiwan a farci bandire dall’app, ma Peppa Pig. Il porcellino più famoso del Regno Unito è stato oscurato dall’internet cinese qualche anno fa in seguito a un episodio considerato “reazionario” nel quale Peppa mancava di rispetto ai suoi genitori. Il nostro chiedere “chi è Peppa Pig” subito dopo aver chiesto “chi è Winnie The Pooh” (personaggio che nella cultura internet è associato all’immagine di Xi Jinping), ha portato al blocco dell’account. Secondo i termini di utilizzo del software, è vietato “insultare l’immagine di eroi nazionali e negare i loro successi”. E a quanto pare è vietato anche chiederne.
