L’assistente vocale Amazon Alexa ha sfidato una bambina a infilare una moneta in una presa elettrica
Gli altoparlanti intelligenti ormai risiedono nelle case di milioni di persone e si rivelano utili in più occasioni, dal tenere traccia del tempo al dare la sveglia, passando per il fornire indicazioni meteo e controllare luci e domotica di casa. Gli assistenti digitali che li animano possono anche intrattenere gli utenti pescando informazioni da Internet e rispondendo a domande, ma in almeno un caso questa funzionalità si è rivelata decisamente rischiosa: è avvenuto nel Regno Unito, dove l'assistente vocale Alexa di Amazon ha suggerito a una bambina le regole per partecipare a un gioco pericoloso che consiste nell'infilare una moneta in una presa elettrica.
Il consiglio pericoloso
La storia l'ha raccontata la BBC, che ha raccolto la testimonianza della famiglia coinvolta. Stando al racconto la bambina in questione ha semplicemente chiesto allo smart speaker Amazon Echo presente in casa di suggerirle una sfida; quest'ultimo, con la voce di Alexa, le ha suggerito nel dettaglio una procedura pericolosa che consiste nel mettere a contatto una moneta metallica con una parte elettrificata della presa elettrica, utilizzando un comune caricabatterie reperibile autonomamente in casa. La madre ha ascoltato la risposta di Alexa ed è intervenuta prontamente, scongiurando potenziali scosse elettriche, incendi o peggio.
Perché Alexa ha suggerito il gioco
L'assistente digitale di Amazon non è animato da cattive intenzioni né se è per questo da una coscienza propria: si limita a reperire informazioni online e a restituirle così come sono. La procedura suggerita in effetti ha un nome preciso: si chiama Penny challenge ed è una sfida pericolosa che in Rete è parecchio documentata, con un passaggio obbligato su TikTok nel 2020 ed esperti che non mancano di mettere in guardia sui rischi che comporta. Alexa ha però ignorato il contesto che avrebbe suggerito a qualunque essere umano di non menzionare la Penny challenge a una bambina: nel momento in cui le è stato chiesto di proporre una sfida, l'assistente digitale ha effettuato una semplice ricerca online sintetizzando le informazioni presenti nel primo risultato trovato.
La risposta di Amazon
Amazon ha già risposto alla BBC di aver risolto il problema modificando la risposta data da Alexa a questa particolare domanda, ma la vicenda punta i riflettori su un tema più ampio: questi dispositivi basano le loro risposte su pagine web liberamente pubblicabili online e – come dimostra il caso di pochi giorni fa – non è detto che si preoccupino sempre di controllare la veridicità o la sicurezza dei loro contenuti. Alcuni argomenti potrebbero dunque essere sfuggiti alle maglie della moderazione, e restituire risposte pericolose o fraintendibili per i più piccoli.
