Per usare Midjourney ora bisogna pagare: “Gli utenti creano immagini pericolose, servono regole”
Midjourney è diventata la fabbrica per generare immagini false che sembrano vere. Per questo la società ha deciso di bloccare tutto cercando di capire in fretta come risolvere il suo più grande problema, che è al tempo stesso è anche il suo punto di forza. Dopo l’arresto di Donald Trump, il Papa con il piumino di Moncler, e Vladimir Putin inginocchiato davanti a Xi Jinping (tutte immagini false), martedì 28 gennaio, la società ha interrotto le prove gratuite a causa delle "richieste straordinarie e abusi nelle prove", ha scritto David Holz, Ceo dell'azienda, su Discord, spiegando anche che gli utenti senza abbonamento stavano esasperando la tecnologia e che le "nuove misure di sicurezza per evitare gli abusi non sembrano essere sufficienti".
Il blocco di Midjourney
Prima su Midjourney chiunque poteva generare 25 immagini gratuitamente, ora per farlo sarà necessario pagare un abbonamento di circa 7 euro al mese. La decisione arriva poco dopo l’ultimo aggiornamento del 15 marzo che ha trasformato il software in una macchina capace di produrre immagini ultra realistiche, aggiustando anche alcuni difetti che permettevano di riconoscere l’intervento dell’IA. Non è perfetta, sbaglia ancora, ma molto meno. Non riesce a riprodurre le scritte e i loghi, e spesso esagera le espressioni facciali, ma sono difetti che possono sfuggire al primo sguardo.
Prima dell'aggiornamento non era in grado di riprodurre le mani, uscivano per esempio con sette dita, ora invece è migliorata, riesce anche a generare ritratti realistici di personaggi famosi. Gli utenti l’hanno scoperto ed è iniziata una gara per creare la fake news più convincente. Per esempio l’immagine falsa di Donald Trump arrestato che è stata pubblicata su Twitter con questa didascalia: “#BREAKING: Donald J. Trump è stato arrestato a #Manhattan questa mattina." E le foto non sono state create a caso. L’ex presidente infatti ha dichiarato di rischiare l’arresto. Le autorità di New York lo hanno accusato di aver comprato il silenzio della pornostar Stormy Daniels, e di averle dato 130.000 dollari per fare in modo che non rivelasse la loro relazione nel bel mezzo della campagna elettorale per le presidenziali del 2016. Midjourney è diventato così uno strumento per creare disinformazione preventiva che potrebbe anche comportare rischi reali. Si è già intravisto qualcosa nei messaggi sovversivi pubblicati sotto il falso arresto di Trump, i fan si stavano già mobilitando per difendere l’ex presidente in stile Capitol Hill.
Il successo difficile dell'intelligenza artificiale
"C'è stata una lenta combustione dell'intelligenza artificiale per un po' di tempo, e ora c'è un incendio", ha detto Katerina Cizek del MIT Open Documentary Lab, che studia l'interazione uomo-computer, al Washington Post. E infatti non solo Midjourney, questa mattina anche ChatGPT, il chatbot geniale di OpenAI, si è trovato di fronte a un nuovo problema. Il Garante per la Privacy in un comunicato ha annunciato il blocco del software in Italia. Secondo le dichiarazioni, ChatGPT raccoglie dati personali senza nessuna giustificazione e non ha un sistema per verificare l’età degli utenti.
Mercoledì sul canale Discord, Holz ha spiegato che stanno lavorando per creare nuove regole "perché le immagini diventano sempre più realistiche e gli strumenti sempre più potenti. C'è una discussione in atto, per diventare o Disney o Wild West, e tutto quello che c'è nel mezzo è ancora da definire", ha detto. "Noi siamo tra questi due poli al momento, e non so come sentirmi a riguardo". La società ha poi aggiunto che sta già lavorando per perfezionare gli strumenti di moderazione dell'intelligenza artificiale in modo tale da bloccare gli usi scorretti o dannosi della tecnologia.
