Marina Buffoni

Esperto di Intelligenza Artificiale

Consigliere presso l’Agenzia per la Cybersicurezza Nazionale

 

 

L’eclissi del discernimento: riflessioni sull’antropocentrismo giuridico dinanzi all’automazione decisionale

 

 

 

Sommario: 1. Introduzione. Il mutamento di paradigma tra tecnica e diritto – 2. L’intelligenza artificiale nel prisma della normativa europea – 3. Ontologia del decidere: calcolo algoritmico vs. discernimento umano – 4. La lezione di Rosario Livatino: il magistrato tra indipendenza e responsabilità − 5. Per un’ecologia del diritto: la “Riserva di Umanità” – 6. Conclusioni. Il diritto come servizio alla persona e ricerca della Verità.

 

 

 

  1. Il mutamento di paradigma tra tecnica e diritto

 

L’attuale mutamento di paradigma indotto dalla pervasività dei sistemi di Intelligenza Artificiale (IA) non si configura come una mera transizione tecnologica, bensì come una sfida ontologica che interroga le fondamenta stesse della civiltà giuridica occidentale. L’irruzione dell’automazione nei processi decisionali solleva interrogativi che superano la dimensione tecnico-ingegneristica per approdare al cuore della filosofia del diritto: può un algoritmo, per quanto raffinato, cogliere la complessità esistenziale del caso concreto?

Il recente quadro normativo delineato dal Regolamento (UE) 2024/1689[1] (noto come AI Act) tenta di governare questo fenomeno attraverso una gestione del rischio che pone i sistemi impiegati nell’amministrazione della giustizia sotto una sorveglianza speciale. Tuttavia, la prospettiva dell’esperto tecnico e del giurista non può limitarsi alla verifica della compliance normativa. Esiste un rischio latente di “eclissi del discernimento”, in cui l’efficienza del calcolo statistico e la seduzione della giustizia predittiva finiscono per oscurare la centralità della persona.

In questo scenario, la figura e il pensiero di Rosario Livatino offrono coordinate di straordinaria attualità. Beato Livatino[2] ci ricorda che l’atto del giudicare non è la fredda applicazione di un sillogismo, ma un esercizio di discernimento prudenziale che richiede indipendenza, responsabilità e, sopra ogni cosa, una “umanità” non negoziabile.

Il presente contributo intende analizzare criticamente l’impatto dell’automazione decisionale sulla funzione giurisdizionale. Attraverso il confronto tra la logica probabilistica dei sistemi di Machine Learning e la visione giusnaturalistica del diritto, si sosterrà la necessità di una “riserva di umanità”: un limite invalicabile che riaffermi il primato della coscienza umana sulla procedura algoritmica, affinché il diritto rimanga, secondo la lezione livatiniana, un’autentica ricerca della Verità al servizio del Bene Comune.

 

  1. L’intelligenza artificiale nel prisma della normativa europea

 

L’entrata in vigore del Regolamento (UE) 2024/1689 (AI Act) segna il tentativo del legislatore europeo di perimetrare lo sviluppo tecnologico entro i confini dei valori democratici e dei diritti fondamentali. Per l’interprete, tuttavia, l’analisi del Regolamento non può fermarsi alla mera esegesi dei suoi articoli; occorre indagare se l’architettura della norma sia sufficiente a preservare il nucleo vivo della giurisdizione.

L’architettura dell’AI Act si fonda su un approccio “basato sul rischio” (risk-based approach), che calibra gli obblighi normativi in base alla potenzialità di danno del sistema. In questo scenario, l’Allegato III, punto 8, definisce gli ambiti di utilizzo dei sistemi di IA ad alto rischio per l’ amministrazione della giustizia e dei processi democratici quali destinati a: a) assistere nell’interpretazione dei fatti e del diritto e nell’applicazione della legge a casi concreti, b) supportare le decisioni giudiziarie, amministrative o di tipo procedurale, c) valutare la probabilità che una persona abbia commesso un reato, d) valutare la credibilità delle prove o dei soggetti coinvolti, e) determinare sanzioni, misure correttive, misure cautelari o alternative alla detenzione.

Questa classificazione riconosce implicitamente che l’automazione in campo forense tocca nervi scoperti dello Stato di diritto: l’equo processo, il diritto alla difesa e la parità delle armi. L’AI Act impone ai fornitori di tali sistemi requisiti rigorosi: dalla data governance (per evitare che i dataset di addestramento contengano pregiudizi o bias) alla trasparenza, fino alla sorveglianza umana (Art. 14).

Tuttavia, dal punto di vista tecnico-giuridico, emerge una criticità: l’IA opera su base probabilistica e non causale. Un sistema ad alto rischio può essere perfettamente conforme alle norme di sicurezza, ma produrre comunque un output che è una “proiezione statistica” del passato, incapace di accogliere l’originalità del presente o l’evoluzione giurisprudenziale che nasce dalla coscienza del magistrato.

Il limite intrinseco dell’AI Act risiede nella sua natura di regolamento di armonizzazione del mercato. Esso si occupa della “sicurezza del prodotto”, ma non della “qualità della giustizia”.

Possiamo rilevare un paradosso della conformità: un algoritmo può superare tutti i test di compliance tecnica (essere trasparente, documentato e monitorato) eppure restare un’entità ontologicamente estranea all’atto del giudicare. La conformità garantisce che la macchina funzioni come previsto, ma non garantisce che il suo utilizzo sia “giusto”.

Esiste, quindi, il rischio concreto che la supervisione umana imposta dall’Art. 14 diventi una formalità burocratica, la cosiddetta automazione del pensiero (Automation Bias). Dinanzi a un output probabilistico apparentemente oggettivo e supportato da una mole di dati immensa, il giudice umano potrebbe soffrire di una “pigrizia cognitiva”, delegando di fatto il discernimento alla macchina, con il rischio di una riduzione del diritto a mera procedura, in cui la visione puramente procedurale dell’AI Act rischia di trasformare il processo in una sequenza di validazioni tecniche. Se il diritto viene ridotto a ciò che è “calcolabile” o “probabile”, svanisce la ricerca della Verità intesa come bene morale, cara alla lezione di Livatino.

In definitiva, l’AI Act è uno scudo necessario contro le derive tecnologiche, ma non può essere l’unica bussola. La compliance è il punto di partenza, ma il discernimento – che è atto squisitamente umano – resta il punto d’arrivo inalienabile.

 

  1. Ontologia del decidere: calcolo algoritmico vs. discernimento umano

 

La questione centrale nel dibattito sulla giustizia predittiva non è solo “quanto” l’IA sia accurata, ma “cosa” essa faccia realmente quando produce un output. È necessario indagare l’ontologia dell’atto decisionale per comprendere se la funzione giurisdizionale possa essere delegata o se essa contenga un nucleo umano non traducibile in codice.

L’intelligenza artificiale viene spesso presentata come un rimedio all’arbitrio e alla fallibilità umana, promettendo una “neutralità” quasi matematica. Tuttavia, questa è un’illusione di prospettiva. Come esperto di sistemi di IA, è doveroso ribadire che ogni modello riflette le scelte del suo creatore e la qualità dei dati di cui si nutre.

Mentre il giudice umano opera mediante il discernimento – ovvero la capacità di distinguere il bene dal male, il giusto dall’ingiusto nel caso irripetibile – l’algoritmo opera per correlazione statistica.

I sistemi di Machine Learning vengono addestrati su sentenze passate. Se la giurisprudenza storica contiene pregiudizi (bias) o visioni sociali superate, l’IA non farà che cristallizzarli, proiettandoli nel futuro con un’aura di oggettività statistica.

L’algoritmo non opera per comprensione, ma per correlazione statistica. Per descrivere questa frattura tra l’elaborazione dei dati e la comprensione del senso, la filosofia della mente ricorre all’esperimento della “Stanza Cinese” di John Searle[3]. In questo scenario, un soggetto che non conosce il cinese può rispondere correttamente a domande scritte in tale lingua semplicemente seguendo un manuale di istruzioni (l’algoritmo). All’osservatore esterno sembrerà che il soggetto comprenda il cinese, mentre egli sta solo manipolando simboli privi di significato.

Allo stesso modo, l’IA applicata al diritto manipola la sintassi (i dati processuali, le norme codificate) senza mai attingere alla semantica (il valore della giustizia, il dramma della colpa, il senso della riabilitazione). Sostituire il magistrato con l’algoritmo significherebbe accettare una giustizia “simulata”, dove il risultato è formalmente corretto ma ontologicamente vuoto, privo di quella comprensione del “perché” che costituisce l’essenza stessa della giurisdizione.

Un pilastro insostituibile dello Stato di diritto è l’obbligo di motivazione (in Italia sancito dall’art. 111 della Costituzione). La motivazione è il processo logico attraverso il quale il giudice giustifica la propria decisione, rendendola controllabile e accettabile dalla società.

Il ricorso a sistemi di Intelligenza Artificiale nell’attività giurisdizionale deve misurarsi con il principio del “giusto processo” sancito dall’art. 111 della Costituzione Italiana. In particolare, il sesto comma stabilisce che «tutti i provvedimenti giurisdizionali devono essere motivati».

L’impiego di modelli di Deep Learning introduce il problema della cosiddetta “scatola nera” (Black Box). Questi sistemi arrivano a un risultato attraverso miliardi di parametri e calcoli non-lineari che risultano incomprensibili anche agli stessi programmatori. Se un giudice utilizza un suggerimento algoritmico di cui non può ricostruire l’iter logico, la sentenza cessa di essere un atto di ragione per diventare un responso oracolare tecnologico.  Se la ratio decidendi è nascosta nei pesi sinaptici di una rete neurale, chi è il vero autore della sentenza? Il giudice che firma un atto di cui non comprende appieno la genesi logica tradisce il proprio dovere di discernimento.

La trasparenza richiesta dall’AI Act (l’approccio della Explainable AI o XAI) è un passo avanti, ma la spiegazione tecnica di un algoritmo non coinciderà mai con la motivazione etico-giuridica che una persona esige da un’altra persona in un’aula di tribunale.

Questa non è una mera prescrizione formale, ma un presidio di democrazia: la motivazione è l’unico strumento che permette alle parti e alla collettività di comprendere l’iter logico-giuridico seguito dal magistrato, garantendo la controllabilità della decisione. Dinanzi all’opacità dei sistemi di Deep Learning (la cosiddetta Black Box), l’obbligo di motivazione rischia di essere svuotato di senso. Se il giudice non è in grado di esplicitare il percorso razionale che ha condotto a un determinato output algoritmico, la sentenza cessa di essere un atto di ragione – come richiesto dalla nostra Carta costituzionale – per trasformarsi in un atto di fede cieca nella tecnologia.

L’incompatibilità di fondo tra l’algoritmo e la giurisdizione risiede nella diversa natura della verità che essi perseguono. I sistemi di Machine Learning generano una “Verità Statistica”: una previsione basata sulla frequenza con cui determinati eventi si sono verificati in passato. È una verità conservatrice, che tende a replicare gli schemi storici, inclusi gli errori e le disuguaglianze sociali cristallizzate nei dati.

Al contrario, il processo giudiziario ha come fine la “Verità Processuale”, che non è un calcolo di probabilità, ma l’esito di una dialettica viva (il contraddittorio) e di una valutazione logica delle prove nel “hic et nunc”. Mentre la verità statistica appiattisce il caso singolo sulla media, la verità processuale ha la forza di rompere con il passato (si pensi ai revirement giurisprudenziali)[4] per affermare un diritto nuovo e più giusto. Delegare il giudizio all’IA significherebbe dunque rinunciare alla capacità evolutiva del diritto, condannando la giustizia a un eterno ritorno dell’uguale.

 

  1. La lezione di Rosario Livatino: il magistrato tra indipendenza e responsabilità

 

In un’epoca che insegue l’illusione dell’oggettività matematica, la figura di Rosario Livatino emerge non come un retaggio del passato, ma come una bussola profetica. Il suo magistero offre le coordinate per superare la tentazione di una giustizia automatizzata.

Per Livatino, l’atto del decidere non è mai una “fredda applicazione di un sillogismo”. Nella sua visione, il magistrato non è chiamato a essere un “automa ministeriale”, ma un interprete vivo. Egli introduce un concetto rivoluzionario: la “carità del magistrato”[5].

Questa non va intesa come un cedimento al sentimentalismo o una deroga alla legge, ma come la capacità di vedere la persona dietro il fascicolo. Mentre l’IA è intrinsecamente probabilistica – e dunque tratta l’imputato come un frammento di una media statistica – il discernimento livatiniano è personologico[6]. La “carità” è ciò che permette di cogliere l’irripetibilità del caso concreto, quella sfumatura esistenziale che nessun algoritmo, per quanto addestrato su milioni di dati, potrà mai codificare.

Questa visione “personologica” assume oggi un valore di garanzia fondamentale dinanzi al fenomeno della “vulnerabilità digitale”. I sistemi automatizzati, operando per clusterizzazione, tendono spesso a penalizzare i soggetti socialmente più fragili o le minoranze, i cui profili dati si discostano dalle medie statistiche considerate “standard” o “affidabili” dall’algoritmo (il cosiddetto bias di ritorno).

La “carità del magistrato” teorizzata da Livatino agisce qui come antidoto tecnico oltre che morale: essa è lo sguardo capace di rompere la gabbia del pregiudizio statistico per riconoscere la dignità del singolo oltre l’etichetta algoritmica. Laddove la macchina vede un “profilo di rischio” basato su codici postali (spesso utilizzati dagli algoritmi come variabili proxy per inferire indirettamente il censo o il contesto sociale di provenienza) o storici creditizi, il magistrato esercita la carità intellettuale di valutare la storia umana concreta, proteggendo l’individuo dalla dittatura del dato.

Livatino sottolineava che il magistrato deve essere indipendente non solo dai poteri esterni, ma anche dai propri pregiudizi e dalle pressioni sociali. Oggi, questa indipendenza deve essere declinata anche come autonomia tecnologica.

Livatino parlava della “sofferenza del decidere”, dove questa sofferenza è il segno della responsabilità morale del magistrato. L’intelligenza artificiale promette di eliminare tale sofferenza offrendo “soluzioni” pronte all’uso, ma così facendo elimina la responsabilità stessa. Se il giudice si limita a validare l’output di un sistema di Machine Learning, egli abdica alla sua funzione sacerdotale di ricercatore della Verità. La lezione di Livatino ci ricorda che la giustizia o è un atto di coscienza umana o è una mera procedura di gestione del potere, priva di legittimazione morale.

In quest’ottica, la funzione giurisdizionale si configura nel pensiero di Livatino quasi come un “sacerdozio civile”, caratterizzato dall’ineludibile “sofferenza del decidere”. Questa sofferenza non è un limite psicologico, ma il sigillo di autenticità della giustizia: solo chi avverte il peso drammatico di incidere sulla vita altrui può giudicare con equilibrio.

L’intelligenza artificiale, per sua natura ontologica, è impassibile: non soffre, non dubita, non trema. L’algoritmo calcola una sentenza con la stessa freddezza con cui ottimizza un percorso stradale. Ma una giustizia priva di questa “partecipazione sofferente” si riduce a mera amministrazione burocratica della forza. La lezione di Livatino ci ricorda che non c’è vera giustizia senza l’assunzione personale – e talvolta dolorosa – della responsabilità del giudizio, un fardello che nessuna macchina potrà mai portare al posto dell’uomo.

 

  1. Per un’ecologia del diritto: la “Riserva di Umanità”

 

Alla luce delle criticità tecniche e costituzionali analizzate, emerge la necessità di definire un perimetro invalicabile all’interno del quale l’automazione deve arrestarsi. Questo perimetro è ciò che definiamo “Riserva di Umanità”.

Sebbene l’AI Act ponga l’accento sulla sorveglianza umana (human-in-the-loop), è necessario che tale supervisione non si riduca a un mero controllo tecnico di correttezza formale. La “Riserva di Umanità” postula che ogni decisione che incida sulla libertà, sulla dignità o sui diritti fondamentali della persona debba avere come autore effettivo e non solo come “firmatario” un essere umano.

Questo principio si fonda sull’impossibilità di delegare alla macchina il discernimento assiologico. Se, come abbiamo visto, l’IA è intrinsecamente probabilistica, essa può fornire al magistrato una mappa delle ricorrenze statistiche, ma non può e non deve compiere quel salto logico e morale che porta dalla probabilità alla “certezza processuale” e alla verità storica.

Non si tratta di respingere l’innovazione tecnologica, bensì di ricollocare l’intelligenza artificiale nel suo alveo naturale: quello di uno strumento sussidiario. L’IA non deve essere vista come un sostituto del giudice, ma come un prezioso supporto capace di eccellere laddove la mente umana fatica per limiti di tempo e volume, ovvero nella gestione di enormi moli di dati, nella ricerca rapida dei precedenti giurisprudenziali o nell’individuazione di incongruenze documentali.

In quest’ottica, la tecnologia si pone realmente al servizio della persona. Un’intelligenza artificiale “antropocentrica” ha il compito di liberare il magistrato dalle incombenze più burocratiche e meccaniche, restituendogli quella risorsa oggi scarsissima: il tempo per pensare. È proprio grazie a questo recupero di tempo e profondità che il giudice può esercitare appieno il discernimento. La tecnica, dunque, non eclissa la valutazione umana ma la sostiene, arrestandosi però rispettosamente al di qua di quella soglia invalicabile dove risiede, e deve restare, la coscienza morale.

 

  1. Il diritto come servizio alla persona e ricerca della Verità

 

L’indagine condotta mette in luce come il rischio di una “eclissi del discernimento” non sia una remota ipotesi distopica, ma una possibilità concreta insita in un’applicazione acritica dell’intelligenza artificiale. La seduzione dell’efficienza e la promessa di una neutralità matematica rischiano di svuotare il diritto della sua dimensione più autenticamente umana.

Come ci insegna il Beato Rosario Livatino, la giustizia non è il risultato di un’operazione contabile, ma un atto che richiede indipendenza, responsabilità e una profonda partecipazione umana. Il richiamo all’ articolo 111 della Costituzione e all’obbligo di motivazione ci ricorda che ogni giudizio deve essere un atto di ragione comunicabile e trasparente, caratteristiche che collidono con l’opacità intrinseca delle “scatole nere” algoritmiche.

In conclusione, la sfida posta dall’IA al mondo del diritto è, in ultima istanza, una sfida culturale. Si tratta di riaffermare che l’uomo non è un “dato” e che la giustizia non è una “probabilità”. Solo preservando quel nucleo di umanità irriducibile al calcolo – quella “carità del magistrato” che sa guardare al di là del reato per scorgere la persona – potremo garantire che l’innovazione tecnologica sia un progresso e non un regresso della nostra civiltà giuridica. Il diritto deve restare, oggi più che mai, un’opera di uomini per gli uomini, illuminata dalla ricerca della Verità e del Bene Comune.

 

[1] Nello specifico, nell’Allegato III, punto 8 (Amministrazione della giustizia e processi democratici), il legislatore europeo classifica esplicitamente come “ad alto rischio” i sistemi di IA destinati a essere utilizzati da un’autorità giudiziaria (o per suo conto) per assistere le autorità nell’attività di ricerca e interpretazione dei fatti e della legge e nell’applicazione della legge a una serie concreta di fatti. La “sorveglianza speciale” (Sorveglianza umana): Si riferisce all’Articolo 14 del Regolamento, che impone che i sistemi ad alto rischio siano progettati in modo tale da poter essere controllati efficacemente da persone fisiche durante il periodo in cui sono in uso, proprio per evitare l’automazione decisionale acritica.

[2] R.A. Livatino, Il ruolo del magistrato nell’esercizio delle sue funzioni (Canicattì, 7 aprile 1984).

[3] La “Stanza Cinese” è uno degli esperimenti mentali più famosi e dibattuti della filosofia della mente e dell’informatica, proposto da John Searle nel 1980. John Searle si immagina chiuso in una stanza e non conosce una sola parola di cinese. All’interno della stanza ci sono dei fogli con ideogrammi cinesi e un manuale di istruzioni in inglese (l’algoritmo). Da una fessura, delle persone che parlano cinese inviano a Searle dei fogli con delle domande scritte in cinese. Searle non capisce le domande, ma segue il manuale: “Se ricevi il segno X, scrivi il segno Y”. Trova i simboli corrispondenti e compone una risposta. Searle fa uscire la risposta dalla fessura. Per le persone fuori dalla stanza, Searle sembra capire perfettamente il cinese. In realtà, lui sta solo eseguendo calcoli meccanici. Searle conclude che sa accostare i simboli correttamente secondo delle regole. Sa cosa significano quei simboli. Il punto centrale: un computer può simulare l’intelligenza e la comprensione, ma non potrà mai “comprendere” davvero ciò che sta facendo.

[4]Un revirement giurisprudenziale (o mutamento dell’orientamento giurisprudenziale) è il cambiamento di indirizzo interpretativo di un’alta corte, come la Cassazione, che prima seguiva un certo principio di diritto e poi, con una nuova sentenza (un overruling), ne adotta uno nuovo, superando la precedente interpretazione.

[5] Conferenza intitolata “Fede e Diritto” del 30 aprile 1986, Canicattì (presso il centro di Cultura “Giuseppe Lazzati”). In questo discorso, Livatino spiega che il compito del magistrato credente è quello di rendere effettivo il rapporto tra la giustizia umana e la carità divina.

[6] Rosario Livatino, “Il ruolo del magistrato nell’esercizio delle sue funzioni”, Conferenza tenuta a Canicattì il 7 aprile 1984. In questo testo, Livatino definisce il giudicare come un atto che non può prescindere dalla persona del magistrato e dalla persona del giudicato. Ecco i passaggi chiave che giustificano l’uso del termine “personologico”: il rifiuto dell’automa: Livatino afferma esplicitamente che “il magistrato non deve essere un automa, un passivo ripetitore di formule legislative, ma un interprete vivo della legge”. Questo sposta il baricentro dalla norma astratta (tecnica) alla persona dell’interprete (etica). L’essere “persona”: Egli scrive che “il magistrato deve essere persona a cui tutti possano guardare con fiducia”. L’autorità non deriva dal ruolo, ma dallo spessore umano e morale del singolo individuo. L’umanità come requisito: la giustizia livatiniana richiede “umanità”, ovvero la capacità di cogliere l’irripetibilità del caso concreto. Questo si oppone radicalmente alla logica probabilistica dell’IA, che tratta l’individuo come un dato statistico.