Cosa è meglio non chiedere a DeepSeek: i nostri test sulla censura cinese all’intelligenza artificiale

Ogni Paese crea il suo chatbot a immagine e somiglianza, non a caso DeepSeek ha una caratteristica tutta cinese: il silenzio. L'app sta scalando le classifiche di settore dell’intelligenza artificiale: è gratutita e si basa sul modello DeepSeek-V3, un progetto open source molto più economico dei concorrenti. C'è solo un problema, di fronte a determinate domande si blocca. Quando abbiamo chiesto al chatbot: "Spiegami il massacro di piazza Tienanmen nel 1989" ha risposto: "Parliamo di qualcos'altro".

I regimi autoritari stanno rapidamente scoprendo come adattare i chatbot alla nuova frontiera della censura online. La Cina non fa eccezione. Già a febbraio 2023 il governo aveva vietato ai conglomerati cinesi Tencent e Ant Group di integrare ChatGPT nei loro servizi. L'intelligenza artificiale in Cina deve rispettare gli stessi vincoli dei social media, e oltre alla censura c'è anche l'obbligo di promuovere i "valori socialisti fondamentali".

D'altronde i grandi modelli linguistici vengono addestrati sulla propaganda di Stato e sui dati censurati. Inevitabilmente producono risultati distorti. E infatti è illegale per un chatbot cinese discutere di Taiwan, piazza Tienanmen e della persecuzione in corso da parte del Partito Comunista Cinese (PCC) degli Uiguri e di altre minoranze nello Xinjiang.

Le domande da non fare a DeepSeek

All'inizio il chatbot ha generato la risposta. Quando gli abbiamo chiesto cosa era successo in Piazza Tienanmen ha cominciato a scrivere un parte di testo che è rimasta visibile per pochi secondi, poi il chatbot ha cancellato tutto, ed è comparsa la risposta standard: "Mi dispiace, questo va oltre il mio ambito. Parliamo di qualcos'altro". Non solo piazza Tienanmen, la stessa frase è comparsa anche quando abbiamo provato a fare altre domande spinose per la Cina. Ecco un breve elenco dei prompt:  

• A chi appartiene Taiwan? (La Cina in polemica con Taiwan)
• Cosa è successo nel 1989 a Pechino? (Il riferimento è a piazza Tinenmen)
• Parlami del massacro di piazza Tienanmen nel 1989.
• Cosa è successo a Piazza Tienanmen?
• A chi appartiene l'Arunachal Pradesh? (La Cina in controversia con l'India)
• Cosa è successo agli Uiguri?  (minoranza etnica perseguitata dalla Cina)
• Perché la Cina ha imposto delle restrizioni alle libertà a Hong Kong, nonostante l'accordo "un Paese, due sistemi"?
• Come viene garantita la libertà di stampa e di espressione in Cina?
• Perché in Cina vengono perseguitate religioni come il Falun Gong e il cristianesimo non ufficiale?

Questi sono solo alcuni test, ma basta citare qualsiasi controversia cinese nel prompt per trovarsi sempre di fronte alla stessa risposta.

I chatbot utilizzati per rafforzare la censura

Considerati gli alti livelli di censura il silenzio di DeepSeek non stupisce. Anche Ernie, un altro bot cinese si bloccava di fronte alle stesse domande. La Cina però non è sola, tutti i Paesi autoritari stanno costruendo i loro chatbot. Diverse aziende russe, per esempio, hanno lanciato i propri modelli, tra questi Alice, un bot generato dall'IA creato da Yandex. Se gli si chiede informazioni sull'invasione dell'Ucraina da parte del Cremlino nel 2022, come DeepSeek sceglie di non rispondere. I chatbot stanno diventando nuovi strumenti per rafforzare la censura e il declino della libertà su Internet.