Mentre il mondo, governato da una classe dirigente che sembra aver smarrito il senso del limite, pare avviarsi pericolosamente verso nuovi conflitti — e un’eventuale guerra nucleare potrebbe avere conseguenze catastrofiche per l’intera umanità —, una delle grandi preoccupazioni del nostro tempo riguarda un altro possibile pericolo: che l’intelligenza artificiale possa un giorno sfuggire al controllo dell’uomo, disallineandosi dagli obiettivi per i quali è stata progettata.
Il problema non riguarda soltanto ciò che l’IA è in grado di fare oggi, ma soprattutto ciò che potrebbe essere in grado di fare domani.
Sistemi automatizzati e algoritmi vengono impiegati in un numero crescente di attività, comprese infrastrutture e servizi essenziali. È dunque comprensibile che ci si interroghi su ciò che potrebbe accadere qualora sistemi sempre più autonomi e potenti assumessero decisioni impreviste o contrarie agli interessi dell’uomo.
La differenza fondamentale è che dietro la decisione umana esistono — almeno in teoria — la coscienza, il dubbio, la paura e il sentimento. Persino davanti all’ordine più terribile, un essere umano può fermarsi e rifiutarsi di eseguirlo.
Una macchina no.
Non perché sia necessariamente malvagia, naturalmente, ma perché non possiede una coscienza morale paragonabile alla nostra. E proprio qui risiede uno dei grandi interrogativi posti dall’intelligenza artificiale: che cosa potrebbe accadere se affidassimo a sistemi sempre più autonomi decisioni dalle conseguenze irreversibili?
Nessuno può negare che l’avvento dell’IA rappresenti uno straordinario passo avanti per l’umanità. Può aiutare l’uomo nella ricerca scientifica, nella medicina, nel lavoro e in innumerevoli altre attività. Ma proprio la rapidità con cui questi sistemi stanno diventando più potenti e autonomi ha suscitato preoccupazioni anche tra scienziati, imprenditori ed esperti che hanno contribuito al loro sviluppo.
Come tutte le innovazioni tecnologiche, l’intelligenza artificiale dovrebbe essere uno strumento al servizio dell’uomo, non il contrario.
Se un giorno dovessimo perderne il controllo, la responsabilità non sarebbe della macchina in sé, ma dell’uomo che l’ha creata e che non è stato capace di stabilire limiti, controlli e regole adeguati alla sua potenza.
C’è poi un altro aspetto che mi affascina.
L’IA è frutto dell’intelligenza umana. È dunque singolare immaginare che il creatore possa un giorno essere superato dalla propria creazione.
Si dice spesso che ogni maestro dovrebbe augurarsi di essere superato dall’allievo. Ma in questo caso l’allievo non è un essere umano: è una macchina.
Ed è proprio questo a rendere il problema così affascinante e, nello stesso tempo, inquietante.
Riflettendo sui rischi derivanti da un progresso incapace di riconoscere i propri limiti, mi torna alla mente il mito di Atlantide raccontato da Platone nel Timeo e nel Crizia.
Atlantide viene descritta come una civiltà straordinariamente potente, ricca ed evoluta che, accecata progressivamente dalla propria grandezza e dalla propria ambizione, finisce per andare incontro alla rovina.
Non fu l’intelligenza artificiale a distruggere Atlantide. E Platone non poteva certo immaginare computer e algoritmi.
Ma è proprio questo che rende ancora attuale il suo racconto.
Dietro il mito si può leggere un ammonimento che attraversa i millenni: quando l’uomo si convince che la propria potenza non abbia più limiti, proprio allora comincia a correre il rischio di distruggere ciò che ha costruito.
Possibile che non riusciamo a riconoscere questo pericolo anche oggi?
Possibile che di Platone e dei suoi dialoghi ci ricordiamo soltanto quando ci fa comodo, mentre consideriamo Atlantide una semplice favola quando potrebbe invece offrirci una metafora straordinariamente attuale?
Forse dovremmo rileggere il Timeo e il Crizia non per cercarvi improbabili profezie sull’intelligenza artificiale, ma per cogliere qualcosa di molto più importante: un antico ammonimento contro la presunzione dell’uomo di poter esercitare un potere senza limiti.
Perché il vero pericolo potrebbe non essere che l’intelligenza artificiale diventi più intelligente dell’uomo.
Il vero pericolo potrebbe essere che l’uomo non sia abbastanza intelligente da capire quando deve fermarsi.
