Il Papa: «L’intelligenza artificiale, strumento affascinante e terribile»

Scherzano a bordo della golf card che è andata a prendere papa Francesco sotto l'elicottero che lo ha portato da Roma a Borgo Egnazia. La presidente del consiglio vestita di rosa ride di gusto mentre il Pontefice si sistema a bordo.

Attesissimo il suo intervento sull'intelligenza artificiale. La premier lo ringrazia per la presenza e gli dà subito la parola. Il Pontefice definisce la Ai «uno strumento affascinante e tremendo».

La riflessione che il Pontefice consegna integralmente ai leader del G7 anche nelle parti in cui, per brevità, ha sintetizzato il discorso, parte dalla domanda sugli «effetti dell'intelligenza artificiale sul futuro dell'umanità».

Nessuna demonizzazione. L'Ai, sottolinea Francesco, nasce dal «potenziale creativo che Dio ci ha donato», ed è strumento potentissimo, «impiegato in tantissime aree dell'agire umano: dalla medicina al mondo del lavoro, dalla cultura all'ambito della comunicazione, dall 'educazione alla politica». Di esso si farà sempre più uso fino a contare anche «la maniera in cui concepiamo la nostra identità di esseri umani».

Per questo, se da un lato le potenzialità della Ai ci entusiasmano, dall'altro sorge «timore per le conseguenze che lascia presagire». Progressi e pericoli vanno valutati attentamente.

Perché se è vero che «l'avvento dell'intelligenza artificiale rappresenta una vera e propria rivoluzione cognitivo-industriale», da questa rivoluzione possono discendere conseguenze imprevedibili. Il Papa cita degli esempi: «L'intelligenza artificiale», dice, «potrebbe permettere una democratizzazione dell'accesso al sapere, il progresso esponenziale della ricerca scientifica, la possibilità di delegare alle macchine i lavori usuranti; ma, al tempo stesso, essa potrebbe portare con sé una più grande ingiustizia fra nazioni avanzate e nazioni in via di sviluppo, fra ceti sociali dominanti e ceti sociali oppressi, mettendo così in pericolo la possibilità di una “cultura dell'incontro” a vantaggio di una “cultura dello scarto ”. Questo è il pericolo». La tecnologia avanza velocemente e «proprio questo vigoroso avanzamento tecnologico rende l'intelligenza artificiale uno strumento affascinante e tremendo al tempo stesso ed impone una riflessione all'altezza della situazione».

E non si può neanche solo dire che, come tutti gli strumenti, la sua bontà dipenderà dal suo impiego. Il Papa cita la scoperta dei primi utensili, del coltello, utilizzato sia per tagliare il pellame per i vestiti che per uccidersi l'un l'altro, o come l'energia nucleare che è una risorsa, ma anche un'arma di distruzione.

«L'uso dei nostri utensili», sottolinea Francesco, «non sempre è univocamente rivolto al bene. Anche se l'essere umano sente dentro di sé una vocazione all'oltre e alla conoscenza vissuta come strumento di bene al servizio dei fratelli e delle sorelle e della casa comune, non sempre questo accade. Anzi, non di rado, proprio grazie alla sua radicale libertà, l'umanità ha pervertito i fini del suo essere trasformandosi in nemica di sé stessa e del pianeta. Stessa sorte possono avere gli strumenti tecnologici. Solo se sarà garantita la loro vocazione al servizio dell'umano, gli strumenti tecnologici riveleranno non solo la grandezza e la dignità unica dell'essere umano, ma anche il mandato che quest'ultimo ha ricevuto di “coltivare e custodire” il pianeta e tutti i suoi abitanti. Parlare di tecnologia è parlare di cosa significati essere umani e quindi di quella nostra unica condizione tra libertà e responsabilità, cioè vuol dire parlare di etica».

L'Ai, però, che è uno strumento sui generis va oltre. Perché mentre un coltello è sotto il controllo umano, l'intelligenza artificiale può operare scelte indipendenti dall'essere umano. Scelte che moltiplicano il bene se attingo al bene, ma che amplificano le ingiustizie, le fake news, ecc se l'algoritmo nella sua ricerca pesca anche l'ingiustizia. Non solo, nel suo lungo discorso in cui il Papa spiega anche come funziona l'Ai, ricorda che la macchina basa le sue scelte sulle statistiche mentre «l'essere umano, invece, non solo sceglie, ma in cuor suo è capace di decidere. La decisione è un elemento che potremmo definire maggiormente strategico di una scelta e richiede una valutazione pratica». Ed è sempre l'essere umano che dovrebbe prendere le decisioni finali, «anche con i toni drammatici e urgenti con cui a volte questa si presenta nella nostra vita. Condanneremmo l'umanità a un futuro senza speranza, se sottraessimo alle persone la capacità di decidere su loro stesse e sulla loro vita condannandole a dipendere dalle scelte delle macchine».

Per questo abbiamo «bisogno di garantire e tutelare uno spazio di controllo significativo dell'essere umano sul processo di scelta dei programmi di intelligenza artificiale: ne va della stessa dignità umana».

Su questo tema il Papa insiste: «In un dramma come quello dei conflitti armati è urgente ripensare lo sviluppo e l'utilizzo di dispositivi come le cosiddette “armi letali autonome” per bandirne l'uso, cominciando già da un impegno fattivo e concreto per introdurre un sempre maggiore e significativo controllo umano. Nessuna macchina dovrebbe mai scegliere se togliere la vita a un essere umano».

La persona deve sempre essere al centro. Invece «si registra come uno smarrimento o quantomeno un'eclissi del senso dell'umano e un'apparente insignificanza del concetto di dignità umana. Sembra che si stia perdendo il valore e il profondo significato di una delle categorie fondamentali dell'Occidente: la categoria di persona umana. Ed è così che in questa stagione in cui i programmi di intelligenza artificiale interrogano l'essere umano e il suo agire, proprio la debolezza dell'ethos connesso alla percezione del valore e della dignità della persona umana rischiando di essere il più grande vulnus nell' implementazione e nello sviluppo di questi sistemi». Il Papa ricorda che «nessuna innovazione è neutrale. La tecnologia nasce per uno scopo e, nel suo impatto con la società umana, rappresenta sempre una forma di ordine nelle relazioni sociali e una disposizione di potere, che abilita qualcuno a compiere azioni e impedisce ad altri di compierne altre. Questa dimensione costitutiva di potere della tecnologia include sempre, in una maniera più o meno esplicita, la visione del mondo di chi l'ha realizzata e sviluppata».

Questo vale anche per i programmi di intelligenza artificiale. Affinché questi ultimi siano strumenti per la costruzione del bene e di un domani migliore, debbono essere sempre ordinati al bene di ogni essere umano. Devo avere un'ispirazione etica.

La decisione etica, infatti, è quella che tiene conto non solo degli esiti di un'azione, ma anche dei valori in gioco e dei doveri che da questi valori derivano. Per questo ho salutato con favore la firma a Roma, nel 2020, della Rome Call for AI Ethics e il suo sostegno a quella forma di moderazione etica degli algoritmi e dei programmi di intelligenza artificiale che ho chiamato “algoretica”». In un contesto plurale e globale, in cui si mostrano anche sensibilità diverse e gerarchie plurali nelle scale dei valori, sembrerebbe difficile trovare un'unica gerarchia di valori. Ma nell'analisi etica possiamo ricorrere anche ad altri tipi di strumenti: se facciamo fatica a definire un solo insieme di valori globali, possiamo però trovare dei principi condivisi con cui affrontare e sciogliere eventuali dilemmi o conflitti del vivere.

Infine il capitolo su «La politica di cui c'è bisogno». Francesco non si nasconde «il rischio concreto, poiché insito nel suo meccanismo fondamentale, che l'intelligenza artificiale limita la visione del mondo a realtà esprimibili in numeri e racchiuse in categorie preconfezionate, estromettendo l'apporto di altre forme di verità e imponendo modelli antropologici, socio-economici e culturali uniformi. Il paradigma tecnologico incarnato dall'intelligenza artificiale rischia allora di fare spazio a un paradigma ben più pericoloso, che ho già identificato con il nome di “paradigma tecnocratico”. Non possiamo permettere uno strumento così potente e così indispensabile come l'intelligenza artificiale di rinforzare un tale paradigma, ma anzi, dobbiamo fare dell'intelligenza artificiale un baluardo proprio contro la sua espansione.

Ed è proprio qui che è urgente l'azione politica, l'azione vostra, come ricorda l'Enciclica Fratelli tutti. Certamente «per molti la politica oggi è una brutta parola, e non si può ignorare che dietro questo fatto ci sono spesso gli errori, la corruzione, l'inefficienza di alcuni politici, non di tutti, di alcuni. A ciò si aggiungono le strategie che mirano a indebolirla, a sostituirla con l'economia oa dominarla con qualche ideologia». Il Papa si chiede se «può funzionare il mondo senza politica», se «può trovare una via efficace verso la fraternità universale e la pace sociale senza una buona politica» e la risposta è «no! La politica serve! Mi viene in mente quello che un Papa ha detto della politica: è la forma più alta della carità, la forma più alta dell'amore». E allora Francesco ribadisce che «davanti a tante forme di politica meschine e tese all'interesse immediato […] la grandezza politica si mostra quando, in momenti difficili, si opera sulla base di grandi principi e pensando al bene comune a lungo termine. Il potere politico fa molta fatica ad accogliere questo dovere in un progetto di Nazione e ancora di più in un progetto comune per l'umanità presente e futura». Sempre c'è la tentazione di uniformare tutto, sottolinea il Papa e ribadisce «l'importanza della “sana politica” per guardare con speranza e fiducia al nostro avvenire. Come ho già detto altrove, “la società mondiale ha gravi carenze strutturali che non si risolvono con rattoppi o soluzioni veloci meramente occasionali”. Ci sono cose che devono essere cambiate con reimpostazioni di fondo e trasformazioni importanti. Solo una sana politica potrebbe averne la guida, coinvolgendo i più diversi settori ei più vari saperi. In tal modo, un'economia integrata in un progetto politico, sociale, culturale e popolare che tenda al bene comune può “aprire la strada verso opportunità differenti, che non implicano di fermare la creatività umana e il suo sogno di progresso, ma piuttosto di incanalare tale energia in modo nuovo”». E questo, conclude il Pontefice, «è proprio il caso dell'intelligenza artificiale. Spetta ad ognuno farne buon uso e spetta alla politica creare le condizioni perché un racconto buon uso sia possibile e fruttuoso».