“Rome Call for AI Ethics”: è il titolo della “intesa etica” siglata in Vaticano da Pontificia Accademia per la Vita, Microsoft, Ibm e Fao. Un monito per una regolamentazione “etica” del digitale. Il professor Adriano Pessina, esperto di bioetica e di filosofia dell’esperienza tecnologica propone una riflessione a margine del discorso che Papa Francesco ha rivolto a conclusione dei lavori dell’assemblea della Pontificia Accademia per la vita, del cui direttivo il docente della Cattolica è membro

di Adriano Pessina *

Condizionamento tecnologico dell’agire umano, economia digitale e trasparenza degli algoritmi, sono state le direttrici di lavoro dell’Assemblea della Pontificia Accademia per la Vita, svoltasi dal 26 al 28 febbraio a Roma. 

L’Assemblea, dal significativo titolo The “Good” Algoritm? Artificial Intelligence. Ethics, Laws, Health, quest’anno è stata, infatti, dedicata ai temi dell’intelligenza artificiale. 

Sul tavolo la stesura di un documento d’eccezione, la Rome Call for AI Ethics; carta etica che vede tra i firmatari monsignor Vincenzo Paglia, presidente della Pontificia Accademia per la Vita; Bradford Lee Smith, presidente della Microsoft; John Kelly III, vice presidente della IBM, e Qu Dongy, direttore generale della Fao.

Sottoscritta alla presenza del presidente dell’Europarlamento David Sassoli e della ministra per l’innovazione tecnologica Paola Pisano, la Rome Call è un monito convinto per una regolamentazione “etica” del digitale. La proposta vaticana è, infatti, quella di avviare un percorso per garantire uno sviluppo delle ricerche nel campo dell’Intelligenza Artificiale (IA) in modo trasparente e inclusivo, nel rispetto di alcuni principi etici fondamentali.

Al termine dei lavori, Papa Francesco ha poi rivolto un discorso alla Pontificia accademia per la Vita, mettendo in luce, con estrema chiarezza, alcuni dei problemi che già ora riguardano l’uso dell’IA e che potranno, in futuro, dilatarsi, se non ci si impegna alla costruzione di processi tecnologici in grado di evitare manipolazioni della vita della persone e di minare la vita democratica e lo sviluppo delle società. 

La cosiddetta IA – acronimo sicuramente infelice, ma ormai entrato nel vocabolario comune - è già alla base delle più banali applicazioni che usiamo quotidianamente, dalle ricerche in rete ai cosiddetti assistenti vocali, per finire con i sofisticati sistemi diagnostici messi in atto da software come Watson o Babylon, attualmente utilizzato dal sistema sanitario anglosassone. 

Papa Francesco ha, a questo proposito, rilanciato un neologismo particolarmente interessante: algor-etica. Il termine - coniato per la prima volta da padre Paolo Benanti e già utilizzato dal Pontefice nel 2019 - rimanda al concetto di algoritmo che, detto in sintesi, è quel sistema di calcolo che permette di elaborare dati e di sviluppare macchine capaci di “imparare” dall’accumulo di informazioni, secondo il modello dell’apprendimento automatico, il cosiddetto Learning Machine. 

Parlare di algor-etica significa, allora, mettere in campo l’esigenza di una elaborazione di sistemi informatici che siano in grado di rispettare alcuni principi fondamentali, come la tutela della privacy, la libertà personale e di educazione, la non discriminazione sociale, il controllo umano delle fonti delle informazioni: dati che già oggi possono essere autonomamente “governati” da alcuni algoritmi. Il che significa, in breve, avviare un processo che permetta di limitare la stessa potente autonomia delle macchine, in modo che la decisione ultima sfugga agli automatismi di un software.

Un simile progetto richiede che siano coinvolti diversi soggetti: non solo i programmatori e i grandi gruppi industriali che stanno alle loro spalle, ma gli stessi utenti, che debbono “imparare” a muoversi in questo nuovo ambiente culturale che è determinato dalla tecnologia dell’informazione e della comunicazione. Non basta, infatti, domandarsi che uso facciamo della tecnologia, ma bisogna chiederci che uso fa la tecnologia dei nostri stili di vita, delle nostre capacità e della nostra stessa personalità. Del resto, un “ buon algoritmo” non è detto che sia di per se stesso un “algoritmo buono”, cioè capace di non privarci dell’autonomia di pensiero e di spirito critico. 

In un’epoca in cui rischiamo di delegare alla tecnologia molti dei processi decisionali – non solo in campo diagnostico ma anche a livello economico – occorre, quindi, che si potenzino le capacità propriamente umane di governare i prodotti tecnologici che fanno parte della nostra vita quotidiana. 

Con estrema chiarezza Papa Francesco ha descritto la situazione: «La “galassia digitale”, e in particolare la cosiddetta “intelligenza artificiale”, si trova proprio al cuore del cambiamento d’epoca che stiamo attraversando. L’innovazione digitale, infatti, tocca tutti gli aspetti della vita, sia personali sia sociali. Essa incide sul nostro modo di comprendere il mondo e anche noi stessi. È sempre più presente nell’attività e perfino nelle decisioni umane, e così sta cambiando il modo in cui pensiamo e agiamo. Le decisioni, anche le più importanti come quelle in ambito medico, economico o sociale, sono oggi frutto di volere umano e di una serie di contributi algoritmici. L’atto personale viene a trovarsi al punto di convergenza tra l’apporto propriamente umano e il calcolo automatico, cosicché risulta sempre più complesso comprenderne l’oggetto, prevederne gli effetti, definirne le responsabilità».

Sono trasformazioni che incidono silenziosamente, ma costantemente, nella nostra esperienza personale. «Sul piano personale, - scrive il Papa - l’epoca digitale cambia la percezione dello spazio, del tempo e del corpo. Infonde un senso di espansione di sé che sembra non incontrare più limiti e l’omologazione si afferma come criterio prevalente di aggregazione: riconoscere e apprezzare la differenza diventa sempre più difficile».

Si tratta, in sostanza, di cambiamenti che hanno evidenti risvolti politici ed economici e che non mancano di rischi, peraltro ben evidenziati dal Papa: «Sul piano socio-economico, gli utenti sono spesso ridotti a “consumatori”, asserviti a interessi privati concentrati nelle mani di pochi. Dalle tracce digitali disseminate in internet, gli algoritmi estraggono dati che consentono di controllare abitudini mentali e relazionali, per fini commerciali o politici, spesso a nostra insaputa. Questa asimmetria, per cui alcuni pochi sanno tutto di noi, mentre noi non sappiamo nulla di loro, intorpidisce il pensiero critico e l’esercizio consapevole della libertà. Le disuguaglianze si amplificano a dismisura, la conoscenza e la ricchezza si accumulano in poche mani, con gravi rischi per le società democratiche».

Osservazioni, queste, che evidentemente non hanno nulla a che fare con il rifiuto o la condanna della tecnologie, né con le invettive care a molti pseudoprofeti che - con l’annuncio del destino e del declino dell’Occidente - hanno spesso evitato la fatica di comprendere la storia e il suo reale divenire. 

Papa Francesco, invece, che pure da sempre si è detto preoccupato dal pragmatismo tecnocratico, al contempo nelle tecnologie vede un agire promettente dell’uomo e ribadisce che «questi pericoli non devono però nasconderci le grandi potenzialità che le nuove tecnologie ci offrono» ed è perciò che non esita ad affermare che esse costituiscono «un dono di Dio, cioè una risorsa che può portare frutti di bene».
 
Lo spirito “critico” non è mai opposizione o polemica, ma impegno di comprensione e valutazione. Se vogliamo, allora, incrementare la riflessione etica dobbiamo andare oltre la superficie, più o meno patinata, dei luoghi comuni che circondano le nuove tecnologie, per cercare di comprendere come veramente “funzionano” e imparare a rileggere la nostra esperienza quotidiana per valutare se ciò che acquistiamo in termini di potenzialità non comporta la rinuncia ad alcuni aspetti della nostra umanità.

C’è una certa analogia tra la nascita, negli anni Settanta del secolo scorso, della bioetica – allora un neologismo, oggi una disciplina consolidata – e la proposta di un’etica delle nuove tecnologie lanciata con il neologismo algor-etica: in entrambi i casi la sollecitazione a una competente riflessione etica nasce da coloro che sono i protagonisti dei mutamenti pratici delle loro discipline, biologici e medici da una parte, scienziati e informatici dall’altra. 

Tuttavia c’è una ulteriore novità. Oggi il campo delle biotecnologie e quello delle tecnologie informatiche non sono più separati, ma convergono e si intrecciano aprendo nuovi scenari cognitivi e operativi, specialmente nel settore della medicina e della ricerca sperimentale. In questo scenario storico la bioetica non potrà che aprirsi all’algor-etica. 

* membro del Direttivo della Pontificia Accademia per la Vita, docente di Filosofia morale, di Bioetica e di Filosofia dell’esperienza tecnologica alla facoltà di Scienze della formazione, Università Cattolica del Sacro Cuore, campus di Milano