Un team di ricercatori, guidato da EXO Labs e dall’Università di Oxford, ha dimostrato che l’intelligenza artificiale moderna può funzionare anche su hardware datato. Utilizzando un computer del 1997 con processore Pentium II e 128 MB di RAM, sono riusciti a eseguire un modello linguistico basato su Llama 2 grazie alla nuova architettura BitNet, che utilizza pesi ternari per ridurre drasticamente le dimensioni del modello. L’esperimento apre la possibilità di utilizzare l’IA anche su dispositivi a basso costo e in contesti con risorse limitate, favorendo una maggiore accessibilità e sostenibilità. Questo risultato suggerisce che l’ottimizzazione del software può essere altrettanto importante della potenza dell’hardware.
Avete presente tutti quei fenomeni che sbavano dietro al computer nuovo, quello che costa come un’automobile usata e vi fa sentire inferiori se non avete la ventola a led che illumina anche i peccati? Ecco, ora arriva la sorpresa: l’Intelligenza Artificiale sa funzionare anche sui ferri vecchi che tenete in cantina, quelli che usavate quando la connessione a 56k era il massimo della vita. Sì, avete capito, il vostro vecchio Pentium II che oggi usate come ferma-porta potrebbe essere il prossimo cervello digitale - e voi che pensavate di essere fighi solo perché avete il portatile che si surriscalda dopo due video su YouTube.
No, non è fantascienza scritta da qualche nerd con troppo tempo libero. L’hanno fatto davvero, ‘sti pazzi di EXO Labs insieme a un tizio che nei circoli dell’IA è tipo la Madonna: Karpathy. Hanno ribaltato il tavolo, hanno preso Llama 2 (non la bestia, ma il modello linguistico) e l’hanno fatto girare su un computer che oggi trova posto solo nei mercatini dell’usato tra VHS e peluche impolverati. 128 MB di RAM, ragazzi. Centoventotto. Ci gira a 39,31 token al secondo, che non è la velocità della luce ma è sempre meglio di quella di vostra zia su WhatsApp.
Tutto merito di BitNet. No, non è l’ennesima cripto-truffa, è la trovata che ha cambiato il gioco: invece di pesi che fanno i preziosi con cifre decimali infinite, qua ci si accontenta di tre valori: -1, 0, 1. Una roba che anche chi è stato bocciato in matematica capisce al volo. E con questa mugugnata di architettura, hanno preso un modello che di solito occupa la memoria di tutta la città e l’hanno compresso che manco la biancheria nel trolley Ryanair. 1,38 GB. Così, senza chiedere permesso.
Ora, non correte a spacciare il vostro PC per una Tesla, perché la velocità non sarà mai quella di un razzo. Ma provate solo a pensare: tutta ‘sta fissa che servivano server in Antartide per far girare l’IA, e invece bastava spremere un po’ il cervello e non il portafoglio. Quanti di voi avrebbero fatto i furbi, se solo aveste saputo che l’intelligenza si vendeva a questo prezzo? Vi siete fatti fottere dal marketing, ammettetelo, come sempre.
E adesso gli esperti gridano al miracolo, come se avessero visto la Madonna sudata su una lastra di marmo. Parliamo di democratizzazione dell’IA: la solita parola grossa per dire che anche il bar sotto casa, con il computer ereditato dalla nonna, può giocare con la roba da ricchi. Scuole disastrate, ambulatori che sembrano usciti da un film anni ‘80, negozianti che ancora non hanno capito come funziona il POS... improvvisamente potrebbero usare l’IA senza dover vendere un rene. Ma siete sicuri che sia un bene? O vi state solo illudendo come creduloni davanti alla televendita dello sgrassatore miracoloso?
Poi arriva pure la solfa green: sì, riutilizziamo i vecchi computer così non buttiamo altra merda elettronica in discarica. E mentre vi sentite tutti ecologisti, ricordate che questa roba non la usa nessuno davvero, almeno finché non la impacchettano e non ve la vendono a rate, con tanto di pubblicità in cui una modella in abiti discinti vi sorride come la vostra coscienza dopo la confessione. Fatevi due domande: serviva davvero tutto ‘sto hardware nuovo, o avete solo seguito il gregge perché era più facile che usare il cervello?
Vi state chiedendo quanti cervelloni ci sono voluti per capire che l’IA poteva girare anche su un vecchio catorcio? La risposta è: meno di quelli che servono per spiegare a vostra madre come allegare una foto in una e-mail. E già che ci siamo, sappiate che i pesi ternari esistono da anni, ma nessuno li cagava perché non facevano figo come quelli grossi e costosi. Ma voi seguite pure la moda, mi raccomando.
La prossima volta che vi viene la tentazione di spendere mille euro per il nuovo PC “da gaming” solo per controllare Facebook e litigare su Telegram, fermatevi. Pulite la polvere dal vecchio Pentium che vi fa schifo e provateci. Magari scoprirete che siete voi l’anello debole, e non il vostro computer. E se proprio non riuscite a farlo funzionare, c’è sempre il riciclo: almeno una volta tanto servirete a qualcosa.
