Detenute finlandesi impiegate per addestrare una IA e altre storie

La start up finlandese Metroc ha stipulato un accordo con il carcere femminile di massima sicurezza di Hämeenlinna (Finlandia) per impiegare le detenute nell’addestramento di un motore di ricerca basato sull’intelligenza artificiale, come riportato da Wired. Una delle detenute, intervistata dall’inviato di Wired, ha definito il lavoro “noioso e ripetitivo”, ma comunque meglio di “stare in cella tutto il giorno”. Non è il primo caso in cui soggetti con poche alternative di impiego, come rifugiati, cittadini di paesi poveri e adesso prigionieri, vengono utilizzati per addestrare una IA, spesso con mansioni alienanti e meccaniche e compensi miseri.

Come addestrare una IA che parla finlandese

I programmi basati sull’intelligenza artificiale permettono di riconoscere immagini, visi, e di svolgere in automatico centinaia di funzioni. Per addestrare una IA le aziende che operano in lingua inglese si avvalgono di lavoratori del sud globale, che vivono in paesi a basso reddito. Ad esempio, OpenAI, l’azienda che sviluppa ChartGPT, si avvale di una compagnia esterna che assume lavoratori in Kenya, Uganda e India. Questi lavoratori hanno il compito di spiegare ad un programma come distinguere un cane da una macchina, oppure come riconoscere se un post su Instagram incita all’odio o al razzismo. In poche parole, si tratta di passare molte ore al computer catalogando delle immagini (labellyng) o rispondendo a delle semplici domande, in modo da fornire alla IA un database di informazioni.

Quando l’IA lavora in lingua inglese, i lavoratori a basso costo non mancano. Il sud del mondo è pieno di cittadini che parlano inglese e sono disposti a lavorare per pochi dollari all’ora. Ma come si fa ad addestrare una IA in finlandese? Nel sud globale sono poche le persone che parlano finlandese, anzi non ce ne sono affatto. Inoltre, la Finlandia è uno dei paesi più ricchi del mondo, con dei salari medi molto elevati, quindi in questo caso è difficile trovare lavoratori a basso costo per addestrare una IA.

I dirigenti di Metroc hanno trovato la soluzione nelle carceri. Grazie ad un accordo, le detenute di Hämeenlinna permetteranno lo sviluppo di un software in lingua finlandese.

Detenute che addestrano l’intelligenza artificiale

Metroc è una start up finlandese che ha sviluppato un software capace di mettere in comunicazione domanda e offerta nel campo degli appalti pubblici finlandesi. Il programma analizza un progetto e capisce se esso ha già tutte le risorse necessarie per essere realizzato o se necessita di professionisti da impiegare. L’algoritmo si basa sull’intelligenza artificiale, ed in grado di determinare se un ospedale ha già un architetto incaricato di definire gli ambienti o un fornitore per porte e finestre.

Per addestrare l’IA, Metroc ha stipulato un accordo con il carcere di massima sicurezza di Hämeenlinna. Al contrario di altre carceri finlandesi, dove i detenuti godono di una certa libertà durante il giorno, in questo caso le detenute non possono mai uscire dal carcere. Un giornalista di Wired ha intervistato una delle detenute coinvolte nel programma. La ragazza ha spiegato che il lavoro consiste in semplici compiti, come rispondere “si” o “no” a delle domande riguardanti dei testi mostrati su un computer. Ad esempio, una classica domanda è: “l’annuncio mostrato si riferisce al mercato immobiliare piuttosto che ad un’offerta di lavoro?”. I turni hanno una durata massima di 3 ore al giorno, con un compenso di 1.54€ l’ora.

La dirigenza del carcere promuove l’accordo con Metroc, sostenendo che questo accordo fornisce un’entrata alle detenute e le prepara per il mondo del lavoro che le attende fuori. Tuttavia, le mansioni vengono descritte dall’intervistata come “piuttosto noiose e ripetitive”. Inoltre, la ragazza ha anche sostenuto che non ha ben chiaro quale sia il fine del lavoro che sta svolgendo.

La reazione dell’opinione pubblica

L’iniziativa portata avanti da Metroc e dalla prigione di Hämeenlinna ha riscosso un certo consenso nell’opinione pubblica finlandese. Pia Puolakka, direttrice del progetto Smart Prison in Filnandia, è stata tra le prime ad accogliere l’iniziativa proposta da Metroc. “L’obiettivo è di far entrare sempre di più il mondo di internet nelle prigioni, in modo da non isolare i detenuti dal mondo” ha dichiarato Puokkala; inoltre, “le detenute sono assolutamente libere di aderire all’iniziativa, possono svolgere turni di massimo 3 ore e hanno a disposizione anche altre attività”, ha aggiunto.

Tuttavia, altre voci si sono dimostrate critiche verso il progetto. “La narrazione secondo cui ci stiamo muovendo verso una società più automatizzata ed efficiente tende a dimenticare il fatto che ci sono dei veri esseri umani dietro molti dei sistemi digitali”, ha dichiarato Amos Toh, ricercatore di Human Rights Watch specializzato in intelligenza artificiale. Toh ha ricordato che la forte evoluzione della tecnologia ha portato ad una ricerca spasmodica di lavoratori a basso costo da utilizzare per addestrare una IA. Le aziende ricercano la manodopera anche in gruppi di persone che non hanno alcuna alternativa, come rifugiati, richiedenti asilo, cittadini di paesi a basso reddito e, in questo caso, detenuti.

Addestrare una IA permette di acquisire delle competenze? Non proprio

Sia Toh che alcuni ricercatori dell’università di Helsinki hanno evidenziato, inoltre, che non è ancora chiaro come i compiti ripetitivi e meccanici svolti per addestrare una IA possano preparare una persona al mondo del lavoro digitale. Human Rights Watch ha ribadito che si potrebbero favorire iniziative più efficaci e comprovate per fornire competenze ai detenuti, come corsi online di programmazione e informatica.

L’opinione pubblica finlandese ha accettato di buon grado l’iniziativa di Metroc perché confida nella qualità del sistema carcerario della Finlandia, ed è sicura che le detenute coinvolte siano pienamente libere di scegliere che attività svolgere. Ma è necessario chiedersi che effetti potrebbe avere un progetto simile applicato in paesi dove i sistemi carcerari sono molti più duri e meno efficienti. Secondo un report della ACLU (American Civil Liberties Union), negli Stati Uniti il 75% dei detenuti dichiara di essere costretto a svolgere un lavoro. In una condizione del genere, anche l’addestramento di una IA potrebbe diventare a tutti gli effetti una forma di sfruttamento.

Il Mechanical Turk

L’impatto sociale del funzionamento di una IA può essere spiegato con la storia del Turco Meccanico. Tra fine ‘700 e inizio ‘800 un inventore ungherese creò un automa di legno, con la forma di un umano vestito da mediorientale (il Turco) e azionato da una scatola piena di ingranaggi automatizzati. Il Turco meccanico era in grado di giocare a scacchi grazie ai meccanismi segreti della scatola, ed era un automa talmente forte che batté molti scacchisti del tempo, un po’ come le IA di oggi. La leggenda narra che sconfisse a scacchi anche Napoleone.

Tutti si chiedevano il segreto del meccanismo. Alla fine, si scoprì che nella scatola che azionava il turco non c’erano ingranaggi automatici, ma semplicemente in piccolo uomo, molto bravo a giocare a scacchi, che azionava l’automa. Dietro l’automazione meccanica non c’era altro che il lavoro di un uomo, in carne ed ossa.

Nel 2005 Amazon si è ispirata a questa storia per dare il nome alla sua piattaforma di crowdsourcing, la Amazon Mechanical Turk. Le piattaforme di crowdsourcing permettono di organizzare e dirigere i compiti (task) svolti da migliaia di esseri umani in giro per il mondo, e sono utilizzate da molte aziende per addestrare e raccogliere dati usati dalle IA.

L’esercito sottopagato che rende viva l’IA

In poche parole, la piattaforma di Amazon permette di spacchettare milioni di operazioni ripetitive, come classificare immagini o riconoscere un contenuto social violento, in piccole azioni da far svolgere a migliaia di lavoratori contemporaneamente. Queste azioni vengono ricompensate anche poche centesimi l’una; ciò permette di ridurre i costi di sviluppo di una tecnologia come l’intelligenza artificiale, grazie alle migliaia di lavoratori che vivono in paesi a basso reddito o che non hanno alternative per sopravvivere.

Le aziende che si vantano di essere “FullAI”, e completamente digitali, sono in realtà sorrette da migliaia di lavoratori costretti dalle circostanze sociali a svolgere attività ripetitive e pagate in modo misero. Questi lavoratori non hanno la piena libertà di scegliere un altro lavoro, come nel caso di una persona detenuta, e in alcuni casi possono arrivare a guadagnare meno di 2€ l’ora, mentre dall’altra parte del mondo dirigenti di imprese digitali ricevono investimenti milionari.