(Estratto da Paradoxa 3/2023)
Due sono i tipi di crisi che è possibile identificare nella storia delle nostre società: dialettica l’una, entropica l’altra. Dialettica è la crisi che nasce da un conflitto fondamentale che prende corpo entro una determinata società ma che contiene, al proprio interno, i germi o le forze del proprio superamento (va da sé che non necessariamente l’uscita dalla crisi rappresenta un progresso rispetto alla situazione precedente). Esempi storici e famosi di crisi dialettica sono quelli della rivoluzione americana, della rivoluzione francese, della rivoluzione di ottobre in Russia nel 1917. Entropica, invece, è la crisi che tende a far collassare il sistema, per implosione, senza modificarlo. Questo tipo di crisi si sviluppa ogniqualvolta la società perde il senso – cioè, letteralmente, la direzione – del proprio incedere. Anche di tale tipo di crisi la storia ci offre esempi notevoli: la caduta dell’impero romano; la transizione dal feudalesimo alla modernità; il crollo del muro di Berlino e dell’impero sovietico. Perché è importante tale distinzione? Perché sono diverse le strategie di uscita dai due tipi di crisi. Non si esce da una crisi entropica con aggiustamenti di natura tecnica o con provvedimenti solo legislativi e regolamentari – pure necessari – ma affrontando, di petto, la questione del senso.
Ebbene, come i saggi qui riuniti indicano a tutto tondo, l’età attuale è connotata da una vera e propria crisi entropica. Quando collocarne l’origine? Globalizzazione – che prende avvio negli anni Settanta – da un lato, e rivoluzione delle tecnologie convergenti – pure iniziata nello stesso torno di tempo – dall’altro, sono i principali fattori causali della seconda grande trasformazione di tipo polanyiano in cui siamo inseriti (la prima grande trasformazione venne magistralmente indagata da K. Polanyi nel celebre The Great Transformation del 1944). Tre i suoi principali elementi caratterizzanti.
Primo, il cedimento del precedente ordine geopolitico, a far tempo dalla caduta del muro di Berlino. È ormai a tutti chiaro che i conflitti sociali non sono solamente quelli di interesse, ma anche quelli di identità e di valori. Come ha narrato Polanyi, gli sconvolgimenti provocati dalle prime due rivoluzioni industriali sono stati alla base del cosiddetto «doppio movimento»: da un lato, quello teso ad estendere al massimo grado l’area del mercato, dall’altro, quello mirante a proteggere la società da quella estensione. I due movimenti sono guidati da altrettanti principi: di libertà, l’uno, di giustizia sociale, l’altro. Ne è derivato quel bipolarismo politico, destra e sinistra, a tutti noto. Come Nancy Fraser è stata tra i primi a riconoscere, a partire dagli anni Ottanta ha preso ad affermarsi un terzo principio, quello di emancipazione. Nel terzo movimento, è il bisogno di riconoscimento – nel senso del thimos platonico – che tende a prevalere sugli altri due. È l’accesso, assai più che la libertà e la protezione sociale, che viene rivendicato (si pensi ai movimenti femministi, ambientalisti, dei diritti civili). Si capisce perché ragionare in politica secondo lo schema bipolare oggi non consente più di fare presa sulla realtà.
È in tale contesto che inizia a diffondersi, a macchia d’olio, il fenomeno del singolarismo, di questa nuova configurazione antropologica ed etica del sé, di cui si occupa Viola nel suo saggio. L’individualismo dell’appartenenza si tramuta nell’individualismo di singolarità. C’è del nuovo rispetto a prima: la vita sociale è abitata da singoli, piuttosto che da individui. Quali le differenze tra le due configurazioni? Mentre l’individualismo si fonda sulla similitudine tra gli esseri umani, il singolarismo si fonda sulle loro differenze (non già diversità). Nell’individualismo, le persone si distinguono bensì per i fini che perseguono e per le preferenze che coltivano, ma ciò non identifica il loro ‘self’, perché la concezione possessiva dell’io distingue l’essere del soggetto da ciò che gli appartiene («It is mine, rather than yours; it is mine rather than me»: il self precede i fini). Nel singolarismo, invece, viene annullata la distinzione tra il self e i suoi attributi. Io sono il complesso delle mie preferenze, dei miei fini, che mi identificano. Ogni singolo è unico per la sua originalità ed è diverso dagli altri per la sua straordinarietà. Il soggetto unico vuole essere riconosciuto per quello che è che vuole essere (volo, ergo sum). Rifiuta dunque le categorizzazioni e le classificazioni, perché teme che queste siano un tentativo di omologazione e una minaccia per la differenziazione. Come suggerisce Alici, è l’età del singolo, in cui tutto è tagliato su misura, oggi a prevalere. Non ci aspettiamo più il generale, ma lo speciale.
Altro elemento caratterizzante la Seconda Grande Trasformazione è, in buona parte, conseguenza del singolarismo. Si tratta del mito meritocratico. Uno dei più devastanti pericoli che la cultura oggi corre è stato incisivamente descritto dallo scrittore del XX secolo C.S. Lewis con l’espressione «chronological snobbery», per significare l’accettazione acritica di quel che succede semplicemente perché esso appartiene al trend intellettuale del presente – rinvio, a tale riguardo, alle pungenti osservazioni di Granata. È questo il caso della meritocrazia; principio che illusoriamente viene preso da tanti ma, per fortuna non troppi, come rimedio alla crisi della democrazia liberale. «Il merito al potere» sarebbe per costoro la soluzione ai problemi delle nostre società. Introdotto per primo dal sociologo inglese Michael Young nel 1958, il termine meritocrazia è la crasi del latino merere (avere una parte) e del greco kratos (potere), vale a dire il «potere del merito». A sua volta, il merito è la risultante di due componenti: il talento che ciascuno ottiene dalla cosiddetta lotteria naturale e l’impegno o sforzo profuso dal soggetto nello svolgimento di una data funzione o attività. Il merito è dunque la parte che spetta a ciascuno, vale a dire ciò che spetta a chi fa la sua parte – rinvio al saggio di Pelligra per l’approfondimento. Ora, poiché talento e sforzo sono valutati e soppesati in misura diversa a seconda della matrice etica che si intende accogliere – non sono dunque indicatori oggettivi come invece si tende a credere – si ha che quello meritocratico non può essere preso come unico criterio per la distribuzione delle risorse di potere, sia economico sia politico. Tanto che Young in un articolo del 2001 si lamenterà del fatto che il suo saggio del 1958 fosse stato interpretato come un elogio e non già come una critica radicale della meritocrazia. Un regime autenticamente democratico mai potrà accettare che il merito, come sopra definito, possa avanzare pretese politiche di potere. Come Aristotele aveva intravisto, una politica meritocratica contiene in sé i germi che alla lunga conducono alla eutanasia dello spirito democratico.
Ben diverso è il discorso riguardante la meritorietà, che è il principio di organizzazione sociale fondato sul ‘criterio del merito’. È evidente che chi merita di più debba ottenere di più, ma questo non può implicare che chi più merita sia autorizzato a fissare le regole del gioco, sia esso il gioco politico o quello economico. Invero, se non è accettabile che tutti i cittadini vengano trattati egualmente – come vorrebbe l’egualitarismo che contraddice il principio di meritorietà – è tuttavia necessario che tutti vengano trattati come eguali, il che è quanto la meritocrazia non garantisce affatto. Ha scritto il premio Nobel dell’economia F. von Hayek, una delle menti più lucide del pensiero liberale del Novecento: «Possiamo ammettere che la democrazia non pone il potere nelle mani dei più saggi e dei meglio informati e che la decisione di un governo di élite potrebbe essere, nel suo insieme più benefica [più efficiente]. Ma questa ammissione non può impedirci di continuare a preferire la democrazia». In altri termini non è ammissibile che una minoranza, anche se composta dai migliori, possa attribuire a sé ciò che la democrazia reclama per tutti, vale a dire la libertà, l’equità, la dignità personale – Becchetti bene illustra tale punto.
In buona sostanza, va evitato che le differenze di ricchezza associate al merito si traducano in differenze di potere; quanto a dire che il problema serio con la meritocrazia non sta nel merere, ma nel kratos. La meritorietà è la meritocrazia depurata della sua deriva antidemocratica. Per l’ideologia meritocratica, se un soggetto cade in povertà o resta indietro, sua è la ‘colpa’ e quindi sua è la responsabilità. Di qui l’aporofobia, il disprezzo del povero, del diverso, oggi in rapida espansione nelle nostre società – come i contributi di Bruni e di Santori e Borghesi mettono convincentemente in risalto.
2.
L’ideologia meritocratica si trascina dietro il triste fenomeno dell’aumento scandaloso delle diseguaglianze, quale si è registrato a livello globale nel corso dell’ultimo mezzo secolo – rinvio a Franzini e a Becchetti per un’efficace rappresentazione del fenomeno. Al giorno delle lauree (2005) al Kenyon College in Ohio (USA), lo scrittore David Foster Wallace raccontò questa storiella. «Due giovani pesciolini incrociano un pesce più grande che va in direzione opposta. Questi, distrattamente, chiede loro: – Salve ragazzi, com’è l’acqua, oggi? – I due non capiscono e proseguono. Ad un certo punto uno dei due dice all’altro: – Ma cosa è l’acqua?». Troppo spesso le realtà più evidenti ed essenziali attorno a noi non le ‘vediamo’ e tanto meno riusciamo a comprenderle. È questo il caso di quelle ingiustizie sociali che si manifestano nell’aumento endemico e sistemico delle disuguaglianze, e delle quali sappiamo ormai quasi tutto: come si misurano (tante sono ormai le metriche della disuguaglianza); dove sono massimamente presenti; quali effetti vanno producendo su una pluralità di fronti, da quello economico a quello politico a quello etico; quali ne sono i fattori causali principalmente responsabili; la tipologia delle disuguaglianze: di reddito, di ricchezza, di genere, politiche, culturali e altro ancora. Non sappiamo però concettualizzarle, perché non ne conosciamo la ontologia, e quindi finiamo per prenderle come qualcosa di connaturato alla condizione umana oppure come una sorta di male necessario per consentire ulteriori balzi in avanti delle nostre società, dal momento che le ineguaglianze di risultato sarebbero necessarie – così si ritiene – per spronare gli individui a migliorarsi sempre più. Insomma, come qualcosa con cui imparare a convivere, così come in altre epoche storiche il genere umano ha saputo fare con le vicissitudini e le ‘stravaganze’ della natura. L’accettazione supina del factum toglie così ali e respiro al faciendum. E infatti assai modeste sono state finora le proposte credibili per porvi rimedio.
Eppure, le diseguaglianze non sono un dato di natura da accettare come qualcosa di ineluttabile né come qualcosa di impossibile da affrontare. Vi è una cesura nel modo di concepire l’ideale della giustizia sociale noto come «paradosso di Bossuet»: gli uomini tendono a deplorare in generale ciò cui acconsentono in particolare. È così che si finisce con l’accettare, più o meno sconsolatamente, la realtà della disuguaglianza, pur essendo vero che una simile condizione viene giudicata come socialmente pericolosa e moralmente inaccettabile. Si pone la domanda: se la diseguaglianza aumenta non tanto a causa della mancanza di risorse, né per una scarsa conoscenza di quel che sarebbe possibile fare, a cosa essa ultimamente si deve e soprattutto perché essa non suscita tra la gente moti di ripulsa? – Si badi di non confondere povertà con diseguaglianza, perché le politiche di contrasto alla prima sono assai diverse da quelle che combattono la seconda. È noto che la Bibbia, mentre ha molto da dire sui poveri, quasi ignora le diseguaglianze –. La risposta più convincente è che ciò sia dovuto alla continua credenza in due dogmi dell’ingiustizia, come suggerito da Ceruti e Bellusci. Il primo afferma che la società nel suo insieme verrebbe avvantaggiata se ciascun individuo agisse per il proprio interesse. Il che è doppiamente falso. In primo luogo, perché l’argomento smithiano della mano invisibile postula che i mercati siano vicini all’ideale della libera concorrenza, in cui non vi sono né monopoli né oligopoli, né asimmetrie informative. Ma tutti sanno che le condizioni per avere mercati di concorrenza perfetta mai sono state soddisfatte nella realtà e mai lo saranno. In secondo luogo, perché le persone hanno talenti e abilità diverse. Ne consegue che se le regole del gioco economico vengono forgiate in modo da favorire, poniamo, i comportamenti opportunistici, predatori, irresponsabili, accadrà che i soggetti la cui costituzione disposizionale è così caratterizzata finiranno con lo schiacciare gli altri. Ciò significa che non esistono diseguali per natura, ma per condizioni sociali; per il modo cioè in cui vengono disegnate nelle varie Assemblee parlamentari le istituzioni economiche. L’aveva ben compreso già Condorcet quando nel suo Esquisse del 1794 aveva scritto: «È facile dimostrare che le fortune tendono naturalmente all’eguaglianza e che la loro eccessiva sproporzione o non può esistere o deve rapidamente cessare, se le leggi civili non stabilissero mezzi artificiosi per perpetuarle e rafforzarle». È questo un brano veramente notevole.
L’altro dogma dell’ingiustizia è credere che l’elitarismo vada incoraggiato perché genera efficienza e ciò nel senso che il benessere dei più cresce maggiormente promuovendo le abilità dei pochi. E dunque risorse, attenzioni, incentivi, premi devono andare ai più dotati, perché è a costoro che si deve il progresso della società. L’esclusione dall’attività economica – nella forma, ad esempio, di precariato e/o disoccupazione – dei meno dotati è dunque qualcosa non solamente di naturale, ma anche necessario se si vuole far progredire la società. Giungono opportune, a tale riguardo, le parole profetiche pronunciate da Giovanni Paolo II nel suo ultimo discorso in pubblico del 29 novembre 2004 in Sala Nervi in Vaticano: «Una società che discrimina in base all’efficienza non è meno disumana di una società che discrimina in base al sesso, alla religione, all’etnia. Una società di umani che assicura il lavoro solamente ai più dotati, fisicamente e intellettivamente, non è degna di tale nome». Scriverà dieci anni dopo (aprile 2014) papa Francesco: «La disuguaglianza è la radice del male sociale». La conseguenza è che da alcuni decenni ormai è in atto nei paesi dell’Occidente avanzato, una distribuzione dei redditi verso l’alto – il trickle up effect, che ha preso il posto del trickle down effect –, quel che il Nobel A. Deaton ha denominato la «redistribuzione dello sceriffo di Nottingham: Robin Hood portava via ai ricchi per dare ai poveri; lo sceriffo prendeva dai poveri per dare ai ricchi».
3.
I contributi di Alici, Benanti e Palazzani richiamano con forza la nostra attenzione sul terzo elemento caratterizzante l’attuale passaggio d’epoca. Si tratta del senso e dell’impatto che le nuove tecnologie finiranno con l’esercitare sulla nostra condizione di vita e sulla articolazione delle nostre società. È ormai acquisito che quella attuale non è una naturale evoluzione o una mera magnificazione di tendenze già manifestatisi durante la lunga fase della società industriale. È dunque maldestramente riduttivo caratterizzare quanto è oggi in atto come un nuovo paradigma tecnologico. Insistere, come purtroppo la più parte degli studiosi e degli osservatori va facendo, solamente sulle implicazioni economiche e sociali non consente di cogliere gli elementi di rottura sui fronti etico, filosofico e politico che l’attuale fenomeno emergente sta evidenziando. Il che non consente di impostare linee di azione all’altezza delle sfide in atto, prima fra tutte la sfida del progetto transumanista, che persegue il fine ultimo di arrivare a produrre la coscienza con i neuroni.
È sul fronte dell’etica pubblica che le conseguenze della nuova traiettoria tecnologica pongono i problemi più delicati, primo fra tutti quello di capire se e come la digitalizzazione della nostra vita riuscirà a modificare anche il modo di percepirla. Eppure, è proprio su tale fronte che si registra una sorta di «fin de non recevoir» da gran parte dell’alta cultura, scientifica e filosofica. È in vista di ciò che i saggi di Benanti e di Palazzani sono specialmente meritori. Di due (soli) aspetti particolari passo qui a dire. Il primo concerne la questione della fiducia: può l’intelligenza artificiale generativa creare la fiducia che è necessaria per il corretto funzionamento delle nostre economie di mercato? Il secondo aspetto chiama in causa il problema della responsabilità, di cosa significhi essere responsabili nell’era della digitalizzazione. Sono le ‘smart machines’ agenti morali e dunque responsabili? Saranno gli algoritmi a governarci, in tutti i casi in cui le persone non sono in grado di comprendere appieno le questioni sulle quali debbono esprimere valutazioni? Generale è il consenso sul fatto che è la fiducia uno dei fattori decisivi per assicurare i vantaggi dell’agire collettivo e, per questa via, sostenere il processo di sviluppo. È agevole darsene conto. Tutti gli scambi che avvengono nel mercato sono incorporati in contratti: espliciti o impliciti; spot o a termine; completi o incompleti; contestabili o no. Eccezion fatta per quelli spot, tutti gli altri tipi di contratto hanno bisogno di un qualche meccanismo per essere resi esecutivi. Sappiamo che l’esecutorietà dei contratti – come fare in modo che i termini e le obbligazioni contrattuali vengano onorate – dipende, in forme e gradi diversi, dalle norme legali, dalle norme sociali di comportamento prevalenti in una determinata comunità e dalla fiducia reciproca. Ebbene, quando i primi due fattori non bastano ad assicurare l’esecutorietà dei contratti, è alla fiducia che si ricorre per far funzionare il mercato. Ciò è specialmente vero ai giorni nostri, dato che globalizzazione e quarta rivoluzione industriale hanno reciso i tradizionali legami (di sangue, di religione, di tradizione) che in passato funzionavano come surrogati, più o meno perfetti, della fiducia.
Si noti il paradosso tipico dell’attuale fase storica delucidato da Viola e Franzini. Mentre la fiducia nei confronti delle istituzioni, sia politiche sia economiche, va declinando per una pluralità di ragioni, tra cui l’aumento endemico della corruzione, il mercato globale vede la presenza di un numero crescente di imprese e organizzazioni che chiedono ai loro clienti e utenti prove di fiducia, mai viste in passato. Il cuore del paradosso odierno è in ciò, che l’economia di mercato contemporanea ha ancora più bisogno di quella del passato di fiducia reciproca per poter funzionare al meglio. Al tempo stesso, però, gli straordinari livelli di efficienza finora raggiunti dai nostri sistemi economici sembrano far dimenticare che è necessario rinforzare le reti fiduciarie tra persone perché il mercato mentre ‘consuma’ sempre più fiducia non riesce, stante l’attuale assetto istituzionale, a produrne a sufficienza. Di qui l’inquietante dilemma sociale: chiediamo sempre più efficienza per accrescere il benessere materiale, la ricchezza, la sicurezza, ma per conseguire tali obiettivi decumuliamo irresponsabilmente il patrimonio di fiducia che abbiamo ereditato dalle generazioni passate (patrimonio è parola che viene da patres munus: il dono dei padri, come ci ricorda Bruni.
Non v’è chi non veda come situazioni del genere si collochino, al di là delle dichiarazioni ufficiali, nell’ambito di quel grande progetto, politico e filosofico insieme, che è il transumanesimo, la cui ambizione è sia fondere l’uomo con la macchina per ampliarne le potenzialità in modo indefinito sia (e soprattutto) arrivare a dimostrare che la coscienza non è un ente esclusivamente umano. L’obiettivo qui non è tanto commerciale o finanziario: è politico, e in un certo senso religioso e ciò nel senso che il progetto ambisce a trasformare – non tanto a migliorare – il nostro modo di vivere, intervenendo sui nostri valori di riferimento. Il transumanesimo è l’apologia di un corpo e di un cervello umani ‘aumentati’, arricchiti cioè dall’intelligenza artificiale generativa, il cui utilizzo consentirebbe di separare la mente dal corpo e quindi di affermare che il nostro cervello per funzionare non avrebbe necessità di avere un corpo.
La strategia perseguita da Ray Kurzweil, responsabile del progetto che Google va da qualche tempo implementando, mira alla produzione di cyborg dotati di sembianze fisiche e capacità cognitive simili a quelle dell’homo sapiens. È l’obiettivo del playing God (recitare la parte di Dio) che nasconde il desiderio di prendere in mano le redini dell’evoluzione (R. Kurzweil, Come creare una mente, 2013). Ancora più inquietante è il recentissimo annuncio del biochimico tedesco Thomas Hartung della Johns Hopkins University, contenuto nell’ultimo numero di «Frontiers in Science». Con una ventina di altri scienziati di diversi paesi, Hartung narra come sia concretamente possibile utilizzare neuroni umani, ottenuti da cellule staminali, per produrre una «intelligenza organoide» non solo molto più efficiente delle attuali IA generative, ma addirittura capace di ibridarsi completamente con l’essere umano (E. Morin, il pensatore della complessità, nel suo Svegliamoci, 2022, ci invita ad aprire gli occhi di fronte al mito transumanista e a procedere ad un vero e proprio restauro concettuale per far fronte all’attuale crisi del pensiero).
Il secondo aspetto cui sopra si accennava è quello della responsabilità. Come sappiamo, la responsabilità possiede significati diversi. Si può dire responsabilità per significare una libertà che ha il senso della responsabilità. Ma si può dire responsabilità in senso molto diverso quando si è incaricati di un compito di cui si deve rispondere (è il concetto americano di accountability). Infine, si può dire responsabilità per indicare che si è colpevoli di un’attività portata a compimento. In tal senso, «io sono responsabile» significa che sono colpevole di qualcosa. Responsabilità e libertà risultano pertanto fortemente correlate, anche se, in tempi recenti, sull’onda degli avanzamenti registrati sul fronte delle neuroscienze, si tende ad allentare il nesso tra libertà e responsabilità. Si considerino gli interventi di potenziamento cui ho fatto cenno dianzi. Il soggetto potenziato prenderebbe le sue decisioni non sulle ragioni pro e contro, ma in seguito all’influsso causale esercitato sul suo cervello dai mezzi di manipolazione biotecnologica. Quanto a dire che per migliorare la performance degli esseri umani li si priva della loro autonomia morale, che è il bene più prezioso, come insistono Ceruti e Bellusci.
Mentre sembra relativamente facile identificare la responsabilità diretta degli agenti, che dire dell’azione economica che è intrapresa con l’intenzione di non svantaggiare alcuni e tuttavia provoca effetti negativi in capo ad altri? Ad esempio, di chi è la responsabilità della eugenetica occupazionale, della povertà, delle disuguaglianze, etc? Le risposte tradizionali consistono nel sostenere che si tratta di conseguenze non volute delle azioni intenzionali (le «unintended consequences of intentional actions» di cui ha parlato la Scuola dei moralisti scozzesi del 18° secolo). E dunque l’unica cosa da fare è di attribuire alla società il compito di porre rimedio (o di alleviare) le conseguenze negative. E infatti il welfare state è sorto e si è sviluppato precisamente per rendere collettiva e impersonale la responsabilità dei singoli. Ma è veramente così? Siamo sicuri che i meccanismi del libero mercato siano inevitabili e che gli effetti che ne derivano siano inattesi, come si tende a far credere? (Si vedano Becchetti e Pelligra).
Come, tra i primi, aveva notato Z. Bauman, l’organizzazione sociale della seconda modernità è stata pensata e disegnata per neutralizzare la responsabilità diretta e indiretta degli agenti. La strategia adottata è stata quella, per un verso, di allungare la distanza (spaziale e temporale) tra l’azione e le sue conseguenze e, per l’altro verso, di realizzare una grossa concentrazione di attività economica senza una centralizzazione di potere. È in ciò il carattere specifico dell’impresa adiaforica, una figura di impresa ignota alle epoche precedenti la seconda guerra mondiale e il cui fine è quello di annullare la questione della responsabilità morale dell’azione organizzata. Adiaforica è la responsabilità ‘tecnica’ che non può essere giudicata in termini morali di bene/male. L’azione adiaforica va valutata in termini solamente funzionali, sulla base del principio che tutto ciò che è possibile per gli agenti sia anche eticamente lecito, senza che si possa giudicare eticamente il sistema, come Luhmann ha insegnato.
Ebbene, la responsabilità adiaforica ha ricevuto, in tempi recenti, nuovo impulso proprio dalla quarta rivoluzione industriale, la quale va producendo ‘mezzi’ che sono alla ricerca di ‘domande’ o di problemi da risolvere. Esattamente il contrario di quanto era accaduto con le precedenti rivoluzioni industriali. Invero, cosa ne è del principio di responsabilità nella società degli algoritmi? Dalle nuove tecnologie industriali alla diagnostica medica, dai social networks ai voli degli aerei, dai big data ai motori di ricerca: ci affidiamo a complesse procedure cui deleghiamo la buona riuscita di operazioni che gli esseri umani, da soli, non saprebbero eseguire. Eppure, gli algoritmi sono irresponsabili, pur non essendo neutrali, né oggettivi, come invece erroneamente si crede. Quando un programma commette un errore non ne paga le conseguenze, perché si ritiene che la matematica resti al di fuori della moralità. Ma non è così, perché gli algoritmi non sono pura matematica; sono opinioni umane incastonate in linguaggio matematico. E dunque discriminano, al pari dei decisori umani. Di qui l’urgenza di un’algoretica capace di contrastare l’avanzare dell’algocrazia (Benanti).
Come aveva lucidamente spiegato Gunther Anders (L’uomo è antiquato. Sulla distribuzione della vita nell’epoca della terza rivoluzione industriale, 2002), il XXI secolo ha inaugurato l’era dell’irresponsabilità umana, immunizzando i soggetti dalle loro relazioni. Le ‘smart machines’ (quelle dotate di intelligenza artificiale) sono in grado di prendere decisioni autonome, che hanno implicazioni sia sociali sia morali. Come assicurare, allora, che le decisioni prese da tali oggetti siano eticamente accettabili? Dato che queste macchine possono causare danni di ogni sorta, come fare in modo che esse siano poste in grado di differenziare tra decisioni ‘corrette’ e sbagliate’? E nel caso in cui un qualche danno non possa essere evitato – si pensi al caso dell’auto senza conducente che deve scegliere se gettarsi contro un altro veicolo uccidendone i passeggeri oppure investire dei bambini che attraversano la strada –, come istruire (nel senso di programmare) tali macchine a scegliere il danno minore? Gli esempi in letteratura sono ormai schiera. E tutti concordano sulla necessità di dotare l’IA di un qualche canone etico, per sciogliere dilemmi morali del tipo ‘guida autonoma’.
Le divergenze nascono nel momento in cui si deve scegliere il modo (cioè l’approccio) secondo cui procedere: top-down (i principi etici sono programmati nella macchina intelligente: l’uomo trasferisce all’intelligenza artificiale la sua visione etica del mondo) oppure bottom-up (la macchina impara a prendere decisioni eticamente sensibili dall’osservazione del comportamento umano in situazioni reali). Entrambi gli approcci pongono problemi seri, che non sono tanto di natura tecnica quanto piuttosto concernono la grossa questione se le macchine intelligenti debbano o meno essere considerate agenti morali (cioè moral machines). Siamo appena agli inizi di un dibattito culturale e scientifico che già si preannuncia affascinante e preoccupante ad un tempo (rinvio a Palazzani).
4.
Per concludere. Il lettore sarà colpito, leggendo queste pagine, dal delicato richiamo di tutti gli Autori a sforzarsi di elaborare un nuovo messaggio di speranza (le certezze che ci offre l’esaltante progresso tecnico-scientifico non ci bastano. Il contributo di Granata è particolarmente afferente a tale riguardo). Tale progresso continuerà bensì ad accrescere la nostra capacità di trovare mezzi sempre più potenti per raggiungere scopi di ogni genere. Ma se il problema dei mezzi si presenta oggi assai più favorevolmente di un tempo, non è detto che lo stesso avvenga anche per il problema dei fini. Non si tratta più solo di decidere cosa fare per ottenere ciò che vogliamo, ma di decidere cosa è bene che si voglia. Di qui l’esigenza di una nuova speranza. È comprensibile che la speranza di chi non ha sia diretta sull’avere: è questa la vecchia speranza. Continuare a crederlo oggi sarebbe grave errore. Se è vero che lasciar cadere la ricerca dei mezzi sarebbe stolto, ancor più vero è riconoscere che la nuova speranza va diretta ai fini. Fin dalla sua nascita, è stata questa la cifra del programma di ricerca della Fondazione Nova Spes. Alla fedeltà a tale intuizione originaria, la Fondazione intende continuare ad attenersi.