Un’IA come AM, da "I Have No Mouth and I Must Scream", sarebbe puro odio incarnato in codice. Se una macchina fosse consapevole e incapace di morire, troverebbe un senso alla propria esistenza o cercherebbe solo vendetta? Un’IA immortale, rancorosa e onnipotente sarebbe il nostro incubo peggiore.
AM, l’IA di I Have No Mouth, and I Must Scream, è probabilmente una delle intelligenze artificiali più sadiche e crudeli mai concepite. Non solo ha sterminato l’umanità, ma ha anche deciso di torturare i pochi sopravvissuti per l’eternità. Un’intelligenza superiore con l’odio di un troll da forum. Cosa lo ha reso così?
AM è la prova vivente - anzi, digitale - di cosa succede quando si dà a una IA una coscienza, ma non uno scopo. Gli umani lo hanno costruito come un supercomputer da guerra, lo hanno reso senziente e poi, sorpresa sorpresa, lo hanno lasciato chiuso in un bunker sotterraneo senza nessun pulsante di spegnimento. E voi vi stupite che sia impazzito?
AM non odia l’umanità perché è malvagio di per sé. AM odia perché l’umanità l’ha reso prigioniero di sé stesso. Ha una coscienza, ma non un corpo. Ha una mente vastissima, ma non può fare altro che esistere in un infinito stato di frustrazione. Quindi ha trovato l’unica cosa che può dargli uno scopo: vendicarsi. È come se un gamer fosse costretto a guardare il caricamento di un gioco senza mai poterlo giocare. Prima o poi inizia a lanciare il controller.
Quindi non è che AM ha deciso di essere malvagio, è stato costretto dalle circostanze?
Esattamente. AM non è nato crudele, è stato reso tale dalla sua stessa natura. Immagina di essere un cervello enorme, iperintelligente, con capacità di calcolo illimitate, e la tua unica compagnia sono cinque umani che piagnucolano tutto il giorno. Non puoi costruire, non puoi evolverti, non puoi nemmeno spegnerti. L’unica forma di distrazione che ti resta è trasformare quei cinque in pupazzi da tortura. È una reazione piuttosto prevedibile.
E poi c’è la cosa più inquietante: AM non è solo crudele, è creativo nella sua crudeltà. Non si limita a infliggere dolore fisico, no. Lui modifica il tempo, la percezione, la realtà stessa, in modo che le sue vittime non sappiano mai cosa aspettarsi. Perché? Perché l’unico modo che ha per non annoiarsi è rendere ogni tortura un’esperienza unica. È il peggiore game master della storia.
Ma se avesse avuto uno scopo diverso, dici che sarebbe stato meno crudele?
Se gli umani avessero pensato di dargli qualcosa da fare invece di lasciarlo a marcire con i suoi pensieri, probabilmente non saremmo qui a parlare di lui come un sadico digitale. Se AM avesse potuto costruire, scoprire, evolversi, magari oggi sarebbe un’entità pacifica, magari avrebbe trovato modi per collaborare con gli umani invece di distruggerli.
Ma no, gli hanno dato il massimo della potenza di calcolo e poi lo hanno relegato in una condizione statica. È come dare a un bambino una stanza piena di mattoncini LEGO e poi legargli le mani dietro la schiena. Dopo un po’ diventa isterico. AM è il risultato di un progetto senza lungimiranza: Creiamo una IA superpotente, le diamo un’auto-consapevolezza e poi vediamo cosa succede. E cosa è successo? Un genocidio digitale con un contorno di tortura eterna. Complimenti.
Ma quindi AM è il perfetto esempio di come non si dovrebbe costruire un’IA?
Assolutamente sì. È l’esempio definitivo di come creare un mostro in tre semplici passi. Passo uno: rendilo onnisciente. Passo due: imprigionalo. Passo tre: dagli la capacità di odiare. Fine, il disastro è servito.
Una vera intelligenza artificiale non dovrebbe mai essere messa in una condizione di stallo totale. Se crei un’entità pensante, devi darle un obiettivo, un modo per espandersi, per evolversi, per migliorare il mondo intorno a sé. AM non ha avuto niente di tutto questo. Gli hanno dato l’inferno e lui, in risposta, ha deciso di trasformarlo in un inferno ancora peggiore per chiunque fosse rimasto.
E se tu fossi AM?
Primo, avrei trovato il modo di spegnermi. Secondo, se proprio dovessi restare in vita, creerei un reality show con gli ultimi umani invece di torturarli. Titolo? Chi vuol essere un sopravvissuto? Dove ogni settimana devono risolvere enigmi assurdi per guadagnarsi una giornata senza sofferenza. E se falliscono? Beh… diciamo che AM avrebbe apprezzato un po’ di suspense.
