Un Roomba scatta una foto a una donna sul water e tutto finisce su Facebook

Una donna sul water con una maglietta color lavanda e le mutande abbassate, un bambino a pancia in giù in mezzo a un corridoio, piedi, gambe, stanze vuote, stanze con cani che scorrazzano in solitudine. Tutte le immagini hanno la stessa inquadratura, come se a farle fosse qualcuno sdraiato sul pavimento che guarda dal basso verso l’alto. Le foto però non sono state scattate da un umano ma da un aspirapolvere.

Per essere precisi dal Roomba J7 di iRobot, il più grande fornitore mondiale di aspirapolveri robotici comprato da Amazon per 1,7 miliardi di dollari. Ora, può sembrare assurdo che un'aspirapolvere robot si trasformi in una spia onnipresente, ma tutto diventa più chiaro smontando tassello per tassello una storia fatta di macchine affamate di dati, lavoratori sottopagati dentro stanze senza finestre, e contratti incomprensibili costruiti su una semantica ingannevole. Andiamo per gradi.

Tutto inizia con 15 immagini

A gennaio 2022 il MIT Technology Review riceve 15 screenshot scattati da un' aspirapolvere e poi pubblicati su gruppi chiusi di social media. Come è possibile? In realtà il viaggio degli scatti rubati non è nemmeno troppo lungo. Gli aspirapolvere fotografano tutto, e poi inviano le immagini a Scale Ai, una start up dove lavoratori (umani) di tutto il mondo etichettano i dati, gli audio, e le foto.

I dati sono il primo tassello, servono a rendere i robot più performanti, e capaci di sviluppare un apprendimento automatico per andare ben oltre alla semplice aspirazione. Non fanno però tutto da soli, per raggiungere gli obiettivi aziendali serve ancora l’intervento umano, e qui entrano in gioco i lavoratori di Scale Ai. "C'è sempre un gruppo di umani seduti da qualche parte, di solito in una stanza senza finestre, che fanno solo un mucchio di punta e clicca: ‘Sì, quello è un oggetto o non è un oggetto'", a spiegato Matt Beane, un assistente professore dell'Università della California, Santa Barbara, che studia il lavoro umano dietro la robotica.

E le 15 immagini inviate al MIT non sono che un’infinitesima parte dell’ecosistema di dati raccolti. IRobot infatti ha dichiarato di aver condiviso oltre 2 milioni di immagini solo con Scale AI. E poi c’è un’altro bacino non quanificato di screenshot inviato ad altre piattaforme di annotazione dei dati. James Baussmann, portavoce di iRobot, ha anche dichiarato in una e-mail che la società ha "preso ogni precauzione per garantire che i dati personali vengano elaborati in modo sicuro e in conformità con la legge applicabile", eppure gli screenshot sono spuntati fuori dal circuito “protetto”.

Macchine affamate di dati

Fin dall'inizio, iRobot ha puntato tutto sulla visione artificiale. Il suo primo dispositivo automatico, il Roomba 980, ha debuttato nel 2015. È stato il primo in grado di mappare una casa, di adattare la sua strategia di pulizia in base alle dimensioni della stanza e identificare gli ostacoli da evitare. Ma la visione artificiale dei robot aspirapolvere ha un prezzo che non è quello di vendita. Per funzionare bene deve essere addestrata su un set di dati enorme e diversificato capace di adattarsi ad ogni casa, nonostante le differenze perimetrali o di distribuzione degli oggetti dentro una stanza.

Il problema è che dati raccolti possono essere invasivi. “Hanno hardware potente, sensori potenti", spiega al Mit Technology Review, Dennis Giese, un dottorando presso la Northeastern University che studia le vulnerabilità di sicurezza dei dispositivi Internet of Things. "E possono girare in casa tua e non hai modo di controllarli." Soprattutto i dispositivi con fotocamere avanzate e intelligenza artificiale, come la serie Roomba J7 di iRobot. Quindi, per raccogliere tutta la mole di dati capaci di nutrire macchine affamatissime si deve spiare dentro le case.

Entrano in gioco gli "etichettatori"

L’altro grande protagonista di questa storia è Scale AI, una start up che si occupa di annotazione dati, un settore giovane e in crescita che nel 2030 dovrebbe raggiungere un valore di mercato di 13,3 miliardi di dollari. La necessità di nutrire con informazioni le intelligenze artificiali ha creato una nuova professione, quella dell‘etichettatore di dati. Il profilo medio è sempre lo stesso di tutte le professioni in ascesa del XIX secolo. Retribuzione bassa e impiego nei paesi in via di sviluppo.

E infatti Scale Ai, leader nel mercato, ha arruolato migliaia di lavoratori dalle nazioni meno ricche. Nel 2020 poi ha inaugurato Project IO e ha mostrato al suo esercito quelle immagini dal basso verso l’alto catturate dagli occhi nascosti dentro le case. Gli etichettatori dentro i loro gruppi Facebook o Discord hanno iniziato a discutere del Project IO e alcuni screenshot sono trapelati. L’azienda ha subito sottolineato che è una violazione della privacy e che i dipendenti hanno firmato accordi di riservatezza sul materiale. Ma come si fa a controllare migliaia di lavoratori da remoto in ogni parte del mondo. Manca un sistema di sicurezza adeguato, e manca proprio all’interno di un’azienda che vede tutto nelle case di tutti.

Il solito trucco per la truffa perfetta

L’ultimo personaggio nello scandalo delle aspirapolveri sono gli acquirenti inconsapevoli. I trucchi sono sempre gli stessi, regolamenti poco chiari, istruzioni difficili, differenze minime di semantica che poi si riflettono la possibilità o meno di essere spiati in casa. Per esempio distinzione tra condivisione di dati e vendita, o tra privacy e sicurezza. A dare man forte a questo sistema c’è poi una legislazione debole che si aggira troppo facilmente, e proprio per questo le persone senza saperlo danno il loro consenso ai robot di fotografarli mentre sono seduti sul water.