Home » Deep learning analogico: hardware più efficace con nuovo elettrolita

Deep learning analogico: hardware più efficace con nuovo elettrolita

Un composto inorganico apre la strada a nuove applicazioni per il deep learning analogico.

Categorie J.A.R.V.I.S · La macchina di Turing

Molti modelli di machine learning di grandi dimensioni si basano su quantità crescenti di potenza di elaborazione per ottenere i propri risultati. Ma ciò comporta enormi costi energetici e produce grandi quantità di calore. Una soluzione proposta è il deep learning analogico, che funziona come un cervello utilizzando dispositivi elettronici simili ai neuroni.

Tuttavia, questi finora non sono stati abbastanza veloci, piccoli o efficienti da offrire vantaggi rispetto all’apprendimento automatico digitale. Dopo un iniziale concept, Murat Onen del MIT e colleghi, hanno creato un resistore su scala nanometrica che trasmette protoni da un terminale all’altro. Il tutto migliorando il precedente in termini di potenza ed efficienza grazie all’utilizzo di un nuovo elettrolita.

Deep learning analogico, sfide e caratteristiche

Ci sono grosse differenze tra il cervello umano e i modelli di appredimento automatico che ne vogliono riprodurre il funzionamento. Nonostante la volontà di imitarlo, il nostro oragano pesa poco più di un chilo e utilizza la stessa quantità di energia di una lampadina. Inoltre, i tempi richiesti per svolgere una nuova attività sono brevi.

Deep Learning analogico

Al contrario, servono settimane per addestrare con tecniche di IA le reti neurali, megawattora di elettricità e rack di trasformatori specializzati. Tutto questo ciò sta suscitando un crescente interesse nello sforzo per riprogettare l’hardware sottostante su cui gira l’IA. Infatti, i ricercatori hanno puntato ad una soluzione analogica, che ha dato vita a componenti chiamati: resistori protonici programmabili. I ricercatori sperano che tali processori “neuromorfi” possano essere molto più adatti all’esecuzione dell’IA rispetto ai classici chip odierni .

L’approccio analogico cerca di progettare componenti in grado di sfruttare la loro fisica interna per elaborare le informazioni. Il che è molto più efficiente e diretto rispetto all’esecuzione di complesse operazioni logiche come fanno i chip convenzionali. Nel cervello umano, l’apprendimento avviene grazie all’intensificarsi o all’indebolimento delle connessioni tra neuroni, le sinapsi. Le deep neural network imitano questa strategia, laddove i pesi ( valore numerico di una connessione ) sono programmati attraverso algoritmi di training.

Nel caso del processore analogico del MIT, è l’aumento e la diminuzione della conduttanza elettrica dei resistori protonici a consentire operazioni di machine learning. Misurati in nanometri (miliardesimi di metro) i resistori protonici sono disposti in una matrice, come una scacchiera. Ed è proprio il movimento dei protoni a controllare la conduttanza elettrica; aumenta al loro aumentare nel canale del resistore e diminuisce viceversa.

Il materiale alla base dei componenti

Per modulare la conduttanza i ricercatori hanno fatto uso di un elettrolita (simile a quello di una batteria) che “blocca” gli elettroni favorendo il passaggio di protoni. Cercato a lungo tra diversi materiali, Onen ha concentrato la sua attenzione sul vetro fosfosilicato (PSG).

Fondamentalmente è biossido di silicio, il composto essicante in polvere nelle bustine per la rimozione di umidità dai mobili nuovi. Una volta ottimizzato, il PSG presenta un’alta conducibilità protonica a temperatura ambiente senza bisogno di acqua, l’elettrolita perfetto per questo compito. Il movimento ultrarapido delle particelle subatomiche avviene grazie ad una moltitudine di pori dalle dimensioni nanometriche. Queste ultime, sulla loro superficie, creano un passaggio alla diffusione dei protoni.

processore deep learning analogico alimentato da protonica ultra veloce   credits: MIT
processore deep learning analogico alimentato da protonica ultra veloce credits: MIT

Una importante caratteristica del PSG è la sua capacità di supportare campi elettrici molto forti, il che garantisce ai protoni movimenti ad alte velocità. Circa un milione di volte più rapidi rispetto al progetto di resistori precedente e rispetto alle sinapsi umane. Ma fortunatamente tutto questo movimento ad alta velocità non causa la rottura del dispositivo grazie alle dimensione e alla massa piccolissima dei protoni. In ultimo, poiché il PSG è un isolante contro gli elettroni, non c’è corrente elettrica che scorre attraverso il dispositivo; caratteristica che lo mantiene fresco e energeticamente efficiente.

Prospettive future del deep learning analogico

I ricercatori hanno in programma di produrre questi resistori in quantità maggiori, al fine di realizzare array per studiarne le caratteristiche. E magari ridimensionarli per l’incorporamento in dispostivi più piccoli.

Il leder del progetto ha affermato, scherzando:

Ottenuto il processore analogico, non alleneremo reti su cui tutti attualmente lavorano. Saranno invece di complessità mai viste che nessuno si può permettere, e quindi che supereranno tutte le altre. In altre parole, questa non è un macchina più veloce, questa è un’astronave.

Murat Onen

La loro speranza, infine, è che questi dispositivi ionici ad alta efficienza energetica, possano emulare i circuiti neurali e la plasticità sinaptica studiate in neuroscienze.