L’intelligenza artificiale non riesce ancora a riconoscere i gorilla, ed è un problema di razzismo

Nel 2009 Google è stata travolta da una lunga serie di critiche per un problema su un singola ricerca. Barack Obama si era insediato da pochi mesi alla Casa Bianca. È stato il primo, e finora l’unico, presidente afroamericano. In quel periodo gli utenti di Google cercavano qualsiasi notizia su Barack Obama e su sua moglie, la First Lady Michelle LaVaughn Robinson. A un certo punto però in molti si sono accorti che cercando solo Michelle Obama sulla sezione Immagini di Google una delle prime foto che si trovavano era una foto della First Lady ritoccata (male) per sembrare una scimmia.

Nel corso degli anni le intelligenze artificiali utilizzati dalle Big Tech hanno incontrato diversi problemi per il riconoscimento delle persone con un etnia diversa da quella caucasica. Nel 2015 l’intelligenza artificiale di Google Photo aveva identificato come scimmie un gruppo di persone di colore. Nel 2021 Facebook si è scusata perché la sua intelligenza artificiale aveva etichettato come “Primati” degli afroamericani. Il risultato è stato documentato dal New York Times: le Big Tech non hanno imparato a riconoscere i volti degli afroamericani, semplicemente ha tolto ogni categoria relativa alle scimmie.

La prova sulle immagine dello Zoo

I reporter Nico Grant e Kashmir Hill hanno provato gli algoritmi usati per riconoscere le immagini su un set di foto di animali. Tutte scattate in una ipotetica gita alla zoo. Il test ha coinvolto i servizi di raccolta e etichettatura delle immagini gestiti di Apple, Google e Amazon. Finché si tratta di gatti e canguri non c’è nessun problema ma quando si passa alla scimmie allora l’intelligenza artificiale non riesce più a trovare risultati. Nel set di immagini utilizzato per il test c’erano vari tipi di primati, dai gorilla ai babbuini, passando per gli scimpanzé. Le app non hanno trovato nessuno dei primati, né con le ricerche generiche né con quelle più specifiche. È come se l’unico modo per risolvere il problema della sovrapposizione nei tag delle immagine fra le persone con discendenze africane e le scimmie fosse stato semplicemente rimuovere il tag delle scimmie.

I problemi dei database allenati con poche immagini

Alla base di tutti questi problemi c’è la costruzione del database. Gli algoritmi che si occupano di riconoscimento di immagini sono così deboli nell’identificazione delle persone di colore perché vengono allenati con database in cui c’è solo una minoranza di volti che non siano di etnia caucasica. E spesso questo problema ha causato fermi inutili negli aeroporti degli Stati Uniti, dove l’intelligenza artificiale è stata sperimentata per il riconoscimento dei passeggeri.