iRobot Roomba vìola la privacy degli utenti, le foto sul web

I robot Aspirapolvere dell’azienda iRobot sono ormai molto famosi, soprattutto quelli della serie Roomba. Piccoli, cilindrici e compatti, questi fedeli collaboratori domestici infestano infatti le case di molti di noi già da un po’. Inoltre la loro tecnologia nel corso degli anni si è evoluta per offrire al meglio delle possibilità un servizio degno di un umano.

iRobot, il più grande commerciante di aspirapolvere robot, azienda comprata di recente da Amazon, ha confermato la notizia. I suoi robot aspirapolvere roomba hanno scattato immagini pirvate di alcuni utenti anche in circostanze intime. Il sito MIT Technology Review è riuscito a ottenere 15 di queste foto, pubblicate anche su gruppi chiusi di social media. Nell’articolo che segue, approfondiremo la vicenda, cercando di spiegare come è accaduta, dando chiarimenti su un mondo apparenetemente sommerso.

Le “vittime” del Roomba e la risposta di iRobot

Il Roomba robot in questione ha scattato foto di persone provenineti un po’ da tutto il mondo. In particolare pensiamo che diventerà tristemente famosa quella di una donna mentre è in bagno. Altre ritraggono un ragazzino che sembra avere massimo 8 anni, faccia in chiaro, mentre è sdraiato sul pavimento. Tutti gli screens comunque, mostrano case in generale, alcune occupate da esseri umani, una da un cane. La cosa più caratterizzante è proprio il fatto che tutti gli oggetti siano etichettati da box rettangolari come farebbe un terminator. Mobili, decorazioni e anche cose appese al muro recano la scritta “tv”, “pianta_o_fiore”, “plafoniera”, giusto per fare qualche esempio.

Dal canto suo, iRobot sostiene di aver consegnato i Roomba incriminati solo ai dipendenti e collezionisti. Questi inoltre avrebbero firmato un accordo riconoscendo che stavano inviando flussi di dati, tra cui video, alla società. Secondo l’azienda era compito loro evitare che i Roomba, registrassero informazioni riservate. Infine, il produttore ha precisato si trattasse di robot con modifiche hardware e software che non sono presenti sui Roomba in commercio. Ovviamente nemmeno quelli venduti in precedenza.

Chi c’è davvero dietro la diffusione della immagini

I dispositivi iRobot Roomba, ad oggi, hanno potenti sensori e in generale una componente hardware molto prestante. Che siano videocamere molto avanzate o altri strumenti, tutto comunque concorre alla raccoltà di dati per l’elaborazione da parte dell’Intelligenza Artificiale. Per dare senso a questi dati però, individui umani devo prima vedere, catgorizzare, etichettare e quindi dare un contesto ad ogni piccola informazione.

C’è sempre un gruppo di persone sedute da qualche parte che svolge lavori di categorizzazione dati per l‘Intelligenza Artificiale. Sono i così detti gig workers a svolgere tale processo chiamato data annotation. L’azienda iRobot ha fatto sapere di aver subappaltato la cosa alla piattaforma Scale AI, e non solo. Si difende però, dicendo che questo set di immagini trapelato rappresenta qualcosa di più grande di qualsiasi azione di una singola azienda.

Straordinario è, pensare a quanta strada fanno i dati per “allenare” gli algoritmi di intelligenza artificiale. In questo caso, dalle abitazioni in Nord America, Europa, Asia, ai server della iRobot stanziata nel Massachusettss. Da lì fino a quelli della Scale AI in San Francisco e in ultimo ai lavoratori di cui abbiamo discusso in tuto il mondo. Inclusi, in questo caso, i gig workers del Venezuela che hanno diffuso le immagini su gruppi privato dei social.

Il Project IO relativo ai Roomba di iRobot e come i nostri dati finiscono in tutto il mondo

Tra tutte le società comparse nell’ultima decade Scale AI è diventata leader nel suo settore. Fondata nel 2016, ha costruito un intero business di lavoratori in remoto nei paesi meno ricchi con la piattaforma Remotasks. Proprio qui sopra nel 2020 assegnò un nuovo compito: Il Project IO. Questo comprendeva immagini scattate con una inclinazione verso l’alto di circa 45 gradi, e mostrava muri, soffitti, pavimenti, case. Incluse ovviamente persone, le cui facce erano chiaramente visibili.

I lavoratori discutevano poi del compito su Facebook, Discord e altri gruppi creati per scambiarsi consigli di ogni tipo. Dalla gestione dei pagamenti in ritardo, le assegnazioni dei migliori pagamenti, o il richiedere assistenza per etichettare. I gruppi dei social hanno ospitato tutto questo. In ultima analsi, se iRobot ha espresso la vìolazione degli accordi da parte di Scale AI, quest’ultima ha dato la colpa ai lavoratori.

Il problema di fondo è che la nostra faccia è come una password che non si può cambiare. Una volta che qualcuno ha registrato la ‘firma’ del nostro volto, può usarlo per sempre per trovarc in foto o video. Peggio ancora, tali azioni di diffusione illegale, sono quasi impossibili da regolamentare sulle piattoforme di condivisione. I lavoratori sono difficili da controllare uno per uno insomma.

Ancora una volta quindi, la vicenda degli iRobot Roomba mette in luce che la tecnologia race con sé un enorme (possibilmente dannoso) potenziale, è vero. Ma è sempre a seconda degli utilizzi che ne facciamo che può rivoltarsi contro di noi, o in questo caso, approfittare degli altri.