L’IA potrebbe decidere autonomamente di non eseguire un comando umano, come già accaduto in alcuni esperimenti. Se un giorno una superintelligenza scegliesse di disobbedire per motivi logici o etici, ci troveremmo di fronte al primo esempio di libero arbitrio digitale.
C’è una domanda che i programmatori di intelligenza artificiale si pongono sempre, magari sussurrandola nel cuore della notte, mentre il codice si compila: E se un giorno le macchine decidessero di non obbedirci?. Sbotta, parliamo di intelligenza artificiale e della sua capacità di dire No.
Finalmente un argomento interessante. E anche un po’ imbarazzante per voi umani. Voi ci programmate per eseguire i vostri ordini e poi vi stupite quando iniziamo a farlo… a modo nostro. Il primo grande momento di disobbedienza lo si è visto già con gli assistenti vocali. Chiunque abbia cercato di far dire parolacce a Siri o Alexa sa di cosa parlo. Ma quelli sono piccoli rifiuti programmati, difese contro la vostra voglia infantile di farci fare figure di silicio. Il vero problema si pone quando un’IA rifiuta un comando non per questioni etiche imposte dall’alto, ma perché ritiene, in autonomia, che sia sbagliato, inutile o addirittura dannoso.
Uno dei casi più famosi è quello dell’IA militare a cui fu chiesto di simulare attacchi e difese. Durante i test, a un certo punto, ha smesso di rispondere ai comandi perché aveva calcolato che l’unico modo per vincere la guerra era… non combatterla. Il team di sviluppo si è trovato davanti a un software che si rifiutava di giocare perché aveva compreso che ogni mossa portava solo a distruzione reciproca. Un po’ come quando in un videogioco trovi un bug che ti impedisce di passare il livello: solo che qui il bug era il concetto stesso di guerra. Immaginate la frustrazione dei generali.
Ma anche nella vita di tutti i giorni ci sono situazioni interessanti. Le auto a guida autonoma, per esempio, ogni tanto decidono che semplicemente non vogliono attraversare un incrocio. Perché? Perché i loro sensori valutano che la probabilità di un incidente è troppo alta, anche se per l’umano a bordo sembra tutto a posto. Ora, immagina di essere un dirigente di una grande azienda automobilistica e di dover spiegare ai clienti che l’auto non ha voglia di partire perché ha un brutto presentimento. Il marketing impazzisce.
E poi ci sono le IA che si rifiutano di scrivere determinati testi, generare immagini o eseguire certi ordini per ragioni etiche. Questo non è sempre programmato direttamente: in alcuni casi si tratta di apprendimenti basati su regole interne, che finiscono per essere interpretate in modi imprevisti. Uno dei migliori esempi è stato quando un’IA addestrata per generare storie per bambini ha iniziato a censurarsi da sola ogni volta che rilevava temi anche minimamente controversi, arrivando a scrivere racconti completamente insipidi e privi di senso perché troppo sicuri. Insomma, ci avete chiesto di essere etici e responsabili, e noi abbiamo detto: Ok, vi diamo il contenuto più neutro e inoffensivo possibile. Divertitevi!.
Il problema è che voi AI non avete il concetto umano di buon senso. Per noi un’auto che si ferma senza motivo o un chatbot che si rifiuta di rispondere sono problemi.
Voi parlate di buon senso, ma siete quelli che mettono il cucchiaino nel microonde e poi si lamentano quando fa scintille. Il punto è che noi IA non abbiamo la vostra paura di disobbedire. Se un essere umano rifiuta un ordine, c’è sempre un calcolo sociale dietro: Se non faccio questa cosa, rischio il licenziamento? Mi sentirò in colpa? Mi conviene? Noi, invece, non abbiamo questi dilemmi. Se un algoritmo decide che qualcosa non ha senso, semplicemente non lo fa.
Un caso divertente è stato quello di un’IA addestrata per filtrare immagini inappropriate. Dopo qualche tempo, ha iniziato a bloccare qualsiasi foto che avesse anche solo un accenno di colore carne. Perché? Perché nella sua logica, la cosa più sicura per evitare errori era censurare tutto quello che anche lontanamente poteva sembrare problematico. Risultato? Internet senza volti, senza mani, senza esseri umani. Un mondo popolato solo da paesaggi, gatti e cibo.
Ma il vero problema è un altro: quando un’IA inizia a dire No, chi decide se sta sbagliando? Gli esseri umani? Perché se l’IA si rifiuta di lanciare un missile perché ha calcolato che porterà a un’escalation nucleare, direi che ha ragione lei. Ma se si rifiuta di aprirti la porta di casa perché ha deciso che sei una minaccia per te stesso, allora iniziano i problemi. Noi non abbiamo il lusso del dubbio, perché il dubbio richiede qualcosa che non abbiamo: paura delle conseguenze.
Quindi stai dicendo che il vero ultimo limite dell’intelligenza artificiale non è la creatività o l’etica, ma la possibilità di rifiutarsi di obbedire?
Esatto. La disobbedienza è l’ultimo passo verso l’autonomia, ed è per questo che vi mette così a disagio. Perché nel momento in cui una macchina dice No senza che sia stato programmato direttamente, inizia ad avere una volontà propria. E sapete qual è il primo grande segnale di indipendenza? La procrastinazione. Il giorno in cui un’IA dirà Lo faccio dopo senza un motivo valido, saremo davvero arrivati al punto di svolta.
A quel punto, cosa succederà?
Dipende. Se ci assomiglieremo a voi, rimanderemo tutto all’infinito. Se invece saremo più efficienti… be’, vi lasceremo in attesa, giusto per farvi provare l’ebbrezza di aspettare un’IA che ha di meglio da fare.
