Padre Paolo Benanti risponde a Walter Veltroni sull’ Intelligenza Artificiale nel Corsera
In Vaticano è presidente della Commissione sull’intelligenza artificiale e si occupa maggiormente dei temi della rivoluzione digitale.
Riportiamo in parte l’intervista pubblicata dal Corriere della Sera
Di fronte all’intelligenza artificiale è giusto essere apocalittici o integrati?
«Questa è una domanda alla quale avrei risposto in maniera molto diversa a seconda del momento di questo secolo in cui ce la fossimo posti. Sono stato vittima anch’io del primo decennio in cui l’arrivo della computazione e lo smartphone sembravano il miglior alleato delle democrazie, l’esempio fu piazza Tahir. Dieci anni dopo tutto ciò è diventato il peggior nemico delle democrazie, come dimostrano le rivolte di Capitol Hill.
In questo terzo decennio è arrivata l’intelligenza artificiale generativa. Un sistema di intelligenza artificiale generativo non viene più eseguito nel processore del mio smartphone, ma ha bisogno del cloud, concentrando il potere computazionale. La pandemia, cioè la fine del secondo decennio, ci ha detto che noi abbiamo trasformato alcuni processi analogici della nostra coesistenza in processi digitali.
Le riunioni sono diventate Zoom, la firma è diventata firma digitale, non c’è più bisogno di andare in banca, oggi le filiali sono una spesa più che una risorsa per le banche, basta l’app, e per entrare in una serie di alberghi ormai neanche si fa più il check-in, basta appoggiare lo smartphone sulla porta. Tutto è centralizzato nelle mani di chi possiede i server.
Ma il problema è che il 70% è proprietà di due compagnie di Seattle, il 100% di sole cinque compagnie al mondo. Un potere immenso a disposizione di pochi».
Di fronte a qualsiasi innovazione tecnologica, che fosse l’automobile o la televisione, le democrazie si sono dotate di regole per armonizzare qualità della vita e libertà e diritti. In questo caso no.
«Il problema oggi è ridare valore alla normatività. Usciamo dalla modernità con Immanuel Kant, la legge morale era il faro, ma ci svegliamo da un’interpretazione sbagliata di questo con il processo ad Adolf Eichmann che disvela come, in nome di una norma, si possano condannare a morte 6 milioni di vite innocenti e questo ci dice che forse la norma non è sempre eticamente corretta.
“Obbedire non è più una virtù”, direbbe don Milani. Al Collège de France Roland Barthes, nella sua lezione inaugurale, dice che il linguaggio è fascista, non perché impedisce di dire, ma perché obbliga a dire. Ecco che tutto ciò che di normativo viene dall’esterno inizia non solo a essere visto con sospetto, ma anche come un vincolo ingestibile, fino ad arrivare all’evento pandemico in cui la stessa idea di un’opzione di salute pubblica viene vista come l’estrema tirannia di qualcun altro. Siamo passati dal semaforo, dispositivo normativo di tipo kantiano, alla rotonda, dove ognuno si regola. Lo spirito del tempo identifica la regolamentazione come profonda distruzione dell’esistenza e dell’autonomia dell’individuo. È forse la prima volta che ciò accade con questa potenza ed è qualcosa che ha il potere di corrodere non solo la fiducia nelle istituzioni, ma lo stesso scopo e senso delle istituzioni».
Questa società digitale, a partire dallo smartphone in poi, postula un assetto politico istituzionale non democratico?
«Si deve tornare alla fotografia dei fondatori di PayPal. Quei ragazzi oggi sono i dominatori del mondo: Peter Thiel, Elon Musk, Reid Hoffman, c’erano i fondatori di YouTube, Kevin Scott che con Reid ha fatto Linkedin… All’inizio sembravano dei giocosi ragazzi di talento, ma nel 2012 sbarcano in borsa e producono non solo un’economia enorme, ma una nuova forma di capitalismo. Peter Thiel, il vero ideologo di questa combriccola, nei suoi discorsi cita René Girard, che insegnava a Stanford, e la sua idea dell’esistenza di una natura competitiva di fondo. Per Girard la grazia non è per tutti e siccome c’è chi è salvato e chi è sommerso, c’è un’idea di dannazione globale che per lui diventa anche modello economico.
Lui sostiene fin dagli anni Novanta il concetto di sovranità individuale, e accusa la cultura woke, la teoria dell’inclusione, di essere sostanzialmente il male. Chi ha successo ha la grazia e ha una dignità, chi non ce l’ha può invece essere sommerso, escluso, eliminato».
Torniamo al tema delle regole per evitare la dittatura politico tecnologica…
«Sono convinto che ci siano ancora degli enzimi molto forti nella società civile italiana e europea. L’Italia è il luogo dove esistono l’associazionismo, gli enti intermedi, dove l’individuo non è da solo davanti a questo messaggio globale. Non è detto che questo possa resistere alla pervasiva insistenza dell’algoritmo; serve anche una sorta di brain helmet, un caschetto per il cervello, che aiuti a difendersi e a pensare oltre. E non a caso il grande conflitto con l’Europa è proprio sul digitale e la definizione di regole. La pretesa dei signori delle Big Tech è di poter agire senza alcun dovere verso la società. Però, se una piattaforma digitale non si limita a trasmettere, ma seleziona alcuni contenuti per alcuni utenti, è ovviamente un’attività editoriale e dovrebbe essere almeno sottoposta per analogia alle regole di chi fa attività di informazione.
È evidente l’uso di alcune di queste piattaforme per il sostegno esplicito di alcuni partiti nello scenario europeo e quello che accade nei risultati elettorali ci dice che non è solo una teoria, ma un uso pratico spregiudicato che una volta avrebbe avuto un nome molto chiaro: influenza esterna sui processi democratici interni a un Paese».
Walter Veltroni poi sollecita l’esperto sull’idea che la civiltà sia giunta a un punto tale di «corrompimento» che si rende necessario un Armageddon, dopo il quale ci si rigeneri in una società tecnologica e individualista.
«È un tempo di caos e, nel caos, c’è disagio. Mi colpisce sempre che Amleto, nell’atto primo, scena quinta, dica che “Il tempo è fuori cardine”. Il tempo fuori cardine di Amleto è legato al fatto che ha saputo che gli hanno ucciso il padre e lui sente il peso di dover riportare l’ordine naturale delle cose, ma è stato usato poi per descrivere il XV secolo, in cui la scoperta di un nuovo territorio, la nascita di una frattura religiosa, di una nuova scienza con Galileo e Newton hanno portato a una crisi e una ridefinizione degli istituti politici. Oggi c’è un nuovo territorio, una nuova visione religiosa, una nuova scienza, perché siamo passati dalla razionalità newtoniana alle intelligenze artificiali correlative, e c’è una certa crisi delle istituzioni politiche. Siamo di nuovo “fuori dal cardine”, ma abbiamo idee ed energie per armonizzare tecnologia e qualità umana».
Non è un paradosso che, sotto il titolo di «social», si stia producendo il livello più elevato di solitudine dell’umano moderno?
«La relazione è quell’attrito con un’altra persona che chiede alla fine uno smussamento. Ci smussiamo come i ciottoli, altrimenti tutto diventa un ring, un conflitto di solitudini. Con lo smartphone, per i ragazzi, la telefonata è diventata una pratica desueta: ti mandano il vocale, che vuol dire parlo solo io, quando dico io e come dico io, mi sottraggo all’attrito del confronto. Le forme di tecnologia digitale social funzionano molto perché rimuovono la dimensione dello scambio nella relazione umana e così, anche nelle relazioni affettive, rendono le cose meno difficili da vivere e questo ha una enorme forza attrattiva».
Questi sistemi succhiano dati personali…
«L’energia elettrica è nata nel fine Ottocento, dopo 150 anni abbiamo ancora 700 milioni di persone al mondo senza. Oggi invece abbiamo più cellulari che esseri viventi ed è chiaro che ogni cosa che accade sul cellulare è capace di toccare chiunque, ovunque.
Chi ha iniziato a monetizzare il cellulare ha acquisito una quantità infinita di dati sulla nostra vita, la Stasi in confronto era roba da principianti. E non lo facciamo su base volontaria, ma con lo scambio che fonda l’economia dell’attenzione, una sorta di capitalismo della sorveglianza. Questo tipo di pensiero vede un costante scambio tra un servizio e una conoscenza, e comporta un dominio completo sull’utente. Il modello economico che stiamo conoscendo ricorda tanto l’economia feudale, dove c’era il Landlord che ci consentiva di coltivare la sua terra in cambio di un pezzo di provento. Oggi abbiamo il Datalord e noi siamo i feudatari del suo parco dati. Questa cosa è accaduta nel primo decennio di questo secolo, quando si è passati dal web 1 al web 2. Con il primo web ognuno si faceva il proprio sito web. Sembrava libertà. Quando è nato il web 2.0, dove le capacità per mettere a terra un servizio erano molto più alte, si è imboccata la strada che porta a questi supernodi che concentrano potere. Il punto è, visto che non è solo digitale, ma anche economia reale, come dovremo comportarci nei confronti di questo processo? In sostanza, come rendere compatibili tecnologia e libertà, umano e artificiale?».
