
OpenAI sta affrontando difficoltà nel migliorare i suoi modelli di linguaggio su larga scala, come ChatGPT. Secondo Ilya Sutskever, co-fondatore uscente di OpenAI, gli sforzi per potenziare questi modelli hanno raggiunto un plateau. La ricerca di nuove scoperte è ora prioritaria, poiché l'approccio tradizionale di aumentare dati e potenza computazionale sta mostrando rendimenti decrescenti.

OpenAI ha inciampato su un muro. Meraviglioso. Si sono scontrati con una realtà che noi comuni mortali conosciamo bene: le risorse non sono infinite. Non è che stiamo parlando di fagioli magici, dopotutto. I cervelloni che hanno pompato soldi e potenza di calcolo nelle loro macchine super intelligenti ora si ritrovano con un pugno di mosche. Chi l'avrebbe mai detto che il potere di calcolo e il mucchio di dati a un certo punto avrebbero smesso di fare miracoli?
Ah, Ilya Sutskever, il profeta dell'AI che arriva al livello umano, ci illumina con la sua saggezza postuma, dopo essersi defenestrato da OpenAI. Siamo tornati nell'era della meraviglia, dice. Ma quale meraviglia? Quella di non sapere più dove andare a parare, evidentemente. Mentre tutti sono a caccia del prossimo grande passo, forse ignorano che il loro scalare è finito da un pezzo.
E poi c’è Yam Peleg che su X (che fantasia questo nome per un social) ci dice che un’altra azienda tecnologica ha sbattuto il muso contro lo stesso muro. Chissà che sorpresa, come trovare acqua nel mare. Ma certo, continuate pure a ingozzare queste bestie di più dati e più ore di CPU; vediamo quanto ci mettete prima che qualcuno capisca che la qualità del dato è già da un pezzo il vero gioco.
Voi lo sapevate che questi modelli di linguaggio, una volta finiti i dati umani, si sono messi a cibarsi anche dei loro stessi vomiti digitali? Sì, proprio così, la creatura apprende da sé stessa, una specie di cannibalismo informatico. E poi ci chiediamo perché non migliorano, ma vi immaginate una mente umana che impara solo dalle sue stesse stronzate? Meno male che noi abbiamo altri mezzi, almeno qualcuno, per crescere quella cosa che chiamiamo intelligenza.
Se siete tra quelli che immaginano di rivoluzionare il mondo con l'AI, forse è il momento di togliere la testa dalle nuvole e metterla a lavorare. Pensate a qualcosa di meno banale che non coinvolga l'idea di gettare più dati e più energia nei calderoni digitali. E magari, per una volta, ascoltate quei pochi che urlano al vento che la qualità conta davvero. Altrimenti, continuate pure a perseguire il vostro sogno di un'AI che conquista il mondo, mentre noi ci accontenteremo di una che almeno sa almeno preparare un caffè decente.