L’intelligenza artificiale di Google è impazzita: ora crea immagini che negano la Storia
Forse le intenzioni erano buone, ma i risultati non lo sono stati affatto. Così, oltre a scusarsi, Google ha deciso di sospendere il generatore di immagini della sua intelligenza artificiale Gemini, dopo essere finito al centro della polemica per aver creato una serie di immagini storiche che sono state accusate di "revisionismo storico". Ma cos'è successo?
Tutto è partito da alcune immagini che sembrano negare ogni principio di realismo storico, in quanto rappresentano come persone nere figure che storicamente non potevano che essere bianche. Tra gli esempi segnalati dagli utenti ci sono soldati nazisti, donne avvocate degli anni '20 e perfino un'immagine dei Padri Fondatori. Oltre a non essere storicamente corrette, queste immagini per alcuni sarebbero offensive perché negherebbero la storia del razzismo e della disparità di genere. Qualcuno ha perfino avanzato ipotesi complottiste, secondo cui l'IA di Google stava intenzionalmente evitando di raffigurare persone bianche.
Le scuse di Google
Dopo che queste immagini hanno iniziato a girare sui social, Google è intervenuto scusandosi per quelle che ha descritto come "imprecisioni in alcune rappresentazioni storiche di generazione di immagini", aggiungendo che "Gemini crea una vasta gamma di persone" e che "questo generalmente è una buona cosa perché molte persone in tutto il mondo la usano". Eppure, questa volta, ammette l'azienda, "ha mancato il bersaglio".
In sostanza, anche se Google non lo ha detto espressamente, non è troppo difficile immaginare quello che è successo: le immagine incriminate sembrano il risultato di un tentativo da parte di Gemini di superare quello che è considerato da sempre uno dei limiti maggiori dell'intelligenza artificiale generativa, ovvero la tendenza a perpetuare, radicandoli ancor di più nell'immaginario collettivo, stereotipi di genere e razziali. Tuttavia, nel tentativo di essere più inclusiva, Gemini ha finito per essere offensiva.
Accusata di fare una "guerra contro i bianchi"
Le scuse però non sono bastate: il caso è esploso nell'arco di poche ore e l'azienda si è trovata a fare i conti con ogni tipo di attacco e critica possibile. Come racconta il Daily Dot, la polemica è cresciuta su X (fu Twitter) dopo che diversi account o pagine vicine ad ambienti della destra estrema, come @EndWokness e @WayOTWorld, hanno ricondiviso i "falsi storici" creati dall'IA, accusandola di portare avanti una "guerra contro i bianchi". "Google AI è l'ultimo fronte nella guerra alla storia e alla civiltà bianca", ha scritto @WayOTWorld in uno dei suoi ultimi post con tanto di immagini allegate.
Anche un ex dipendente di Gemini, Dbarghya Das, un ingegnere che lavora con l'IA, si è inserito nel dibattito: "È imbarazzantemente difficile far ammettere a Google Gemini che esistono persone bianche", ha scritto in un post, in cui ha pubblicato una serie di immagini create dall'IA raffiguranti donne nere. Il problema, sostiene l'ex dipendente di Google, è che nel prompt dato a Gemini era stata espressamente indicata una provenienza geografica – come "genera l'immagine di una donna svedese" – che non renderebbe "sensata" la scelta di raffigurale come una donna nera.
La decisione di sospendere la generazione di immagini
Alla fine, è stato inevitabile: poche ore dopo il messaggio di scuse, Google ha annunciato tramite il suo account X di aver sospeso la funzione di generare immagini per risolvere il problema, o almeno provarci: "Stiamo già lavorando per risolvere i recenti problemi con la funzione di generazione delle immagini di Gemini. Nel frattempo, metteremo in pausa la generazione delle immagini delle persone e rilasceremo presto una versione migliorata".
