Focus

Intelligenza artificiale e dati giudiziari: verso una “iurisfera” digitale del procedimento penale (telematico)?

17 Marzo 2022 | , Giustizia Predittiva

Sommario

Le prospettive digitali del sistema giudiziario penale (Marco Bisogni e Roberto Patscot) | Intelligenza artificiale e diritto penale. Definizione di intelligenza artificiale e contesto ordinamentale. Cenni (Marco Bisogni) | Le manifestazioni (embrionali) dell’intelligenza artificiale nell’ordinamento penale italiano: nella prevenzione di reati e nelle indagini preliminari (Marco Bisogni) | (Segue) Nel Processo penale. Algoritmi decisori. Le assegnazioni automatizzate dei procedimenti. Il Portale del processo penale e la valutazione automatizzata dei depositi dei difensori. Il giusto processo digitale (Roberto Patscot) | La struttura del processo informatizzato: dalla matrice tridimensionale a quella bidimensionale del fascicolo. L’intelligenza naturale e l’approccio metacognitivo al dato digitale processuale. Verso un “multiverso” del processo penale? (Roberto Patscot) | L’architettura sostenibile dei sistemi digitali del processo penale telematico e la copia del cartaceo: prospettive evolutive. La libertà personale ed i pericoli della “lentezza digitale” della Giustizia (Roberto Patscot) | I big data giudiziari: gestione pubblica e privata. I motori di ricerca ed il ranking degli orientamenti giurisprudenziali in rete: le misteriose risposte dell’intelligenza artificiale delle aziende big tech (Roberto Patscot) | La titolarità dei dati giudiziari e dei dati statistici. La “separazione dei poteri digitali” dello Stato: indipendenza della funzione giudiziaria e competenze del Ministero della giustizia. La gestione tecnica dei sistemi informatizzati: dati anonimi e pseudoanonimi (Roberto Patscot) | La statistica nei sistemi di valutazione della magistratura (Marco Bisogni) | Considerazioni finali: la capacità espansiva dell’Intelligenza Artificiale e la necessità di tutelare la qualità della giurisdizione (Marco Bisogni e Roberto Patscot). |

Sommario | Vedi tutto

< > x

Le prospettive digitali del sistema giudiziario penale (Marco Bisogni e Roberto Patscot) | Intelligenza artificiale e diritto penale. Definizione di intelligenza artificiale e contesto ordinamentale. Cenni (Marco Bisogni) | Le manifestazioni (embrionali) dell’intelligenza artificiale nell’ordinamento penale italiano: nella prevenzione di reati e nelle indagini preliminari (Marco Bisogni) | (Segue) Nel Processo penale. Algoritmi decisori. Le assegnazioni automatizzate dei procedimenti. Il Portale del processo penale e la valutazione automatizzata dei depositi dei difensori. Il giusto processo digitale (Roberto Patscot) | La struttura del processo informatizzato: dalla matrice tridimensionale a quella bidimensionale del fascicolo. L’intelligenza naturale e l’approccio metacognitivo al dato digitale processuale. Verso un “multiverso” del processo penale? (Roberto Patscot) | L’architettura sostenibile dei sistemi digitali del processo penale telematico e la copia del cartaceo: prospettive evolutive. La libertà personale ed i pericoli della “lentezza digitale” della Giustizia (Roberto Patscot) | I big data giudiziari: gestione pubblica e privata. I motori di ricerca ed il ranking degli orientamenti giurisprudenziali in rete: le misteriose risposte dell’intelligenza artificiale delle aziende big tech (Roberto Patscot) | La titolarità dei dati giudiziari e dei dati statistici. La “separazione dei poteri digitali” dello Stato: indipendenza della funzione giudiziaria e competenze del Ministero della giustizia. La gestione tecnica dei sistemi informatizzati: dati anonimi e pseudoanonimi (Roberto Patscot) | La statistica nei sistemi di valutazione della magistratura (Marco Bisogni) | Considerazioni finali: la capacità espansiva dell’Intelligenza Artificiale e la necessità di tutelare la qualità della giurisdizione (Marco Bisogni e Roberto Patscot). |

Le prospettive digitali del sistema giudiziario penale (Marco Bisogni e Roberto Patscot)

Il procedimento penale si sta progressivamente calando in una nuova dimensione digitale del rito.
Le caratteristiche delle moderne tecnologie di gestione dei dati giudiziari pongono delicati problemi di raccordo tra i tradizionali istituti giuridici e le forme digitalizzate delle procedure. Siamo innegabilmente di fronte ad una nuova strutturazione del diritto processuale penale che è proiettato, ormai, in una sorta di “iurisfera” digitale della quale appare sempre più difficile tratteggiare i confini e gli equilibri.

La cifra di questi cambiamenti emerge particolarmente evidente analizzando gli attuali assetti dei sistemi automatizzati dell’amministrazione giudiziaria i quali si confrontano con una complessità tecnologica che implica necessariamente la parziale rimodulazione delle tradizionali categorie giuridiche. Nei paragrafi che seguono si analizzeranno le tendenze ed i termini dei profondi cambiamenti imposti dalla trasformazione digitale del sistema giudiziario penale il quale non può più sottrarsi al confronto anche con le tecnologie di emulazione del pensiero umano.

Intelligenza artificiale e diritto penale. Definizione di intelligenza artificiale e contesto ordinamentale. Cenni (Marco Bisogni)

Carta etica europea sull’utilizzo dell’intelligenza artificiale nei sistemi giudiziari adottata nel dicembre 2018 dalla CEPEJ, La risoluzione del Parlamento europeo del 6 ottobre 2021 «sull’intelligenza artificiale nel diritto penale e il suo utilizzo da parte delle autorità di polizia e giudiziarie in ambito penale», l’art. 8 del D.lgs n. 51/2018.

 

La necessità di una regolamentazione dell’utilizzo dell’Intelligenza Artificiale nei sistemi giudiziari viene avvertita in ambito europeo già nel dicembre 2018 quando la CEPEJ adotta la “Carta Etica europea sull’utilizzo dell’Intelligenza Artificiale nei sistemi giudiziari”.

 

La Carta - oltre a contenere una vera a propria definizione di intelligenza artificiale - (definita come “Insieme di metodi scientifici, teorie e tecniche finalizzate a riprodurre mediante le macchine le capacità cognitive degli esseri umani. Si distingue tra intelligenze artificiali “forti” (capaci di contestualizzare problemi specializzati di varia natura in maniera completamente autonoma) e intelligenze artificiali “deboli” o “moderate” (alte prestazioni nel loro ambito di addestramento”) individua cinque principi fondamentali cui attenersi nello sviluppo e utilizzo dell’I.A. nei sistemi giudiziari:

  1. PRINCIPIO DEL RISPETTO DEI DIRITTI FONDAMENTALI: assicurare l’elaborazione e l’attuazione di strumenti e servizi di intelligenza artificiale che siano compatibili con i diritti fondamentali
  2. PRINCIPIO DI NON-DISCRIMINAZIONE: prevenire specificamente lo sviluppo o l’intensificazione di discriminazioni tra persone o gruppi di persone
  3. PRINCIPIO DI QUALITÁ E SICUREZZA: in ordine al trattamento di decisioni e dati giudiziari, utilizzare fonti certificate e dati intangibili con modelli elaborati multidisciplinarmente, in un ambiente tecnologico sicuro.
  4. PRINCIPIO DI TRASPARENZA, IMPARZIALITÁ ED EQUITÁ: rendere le metodologie di trattamento dei dati accessibili e comprensibili, autorizzare verifiche esterne.
  5. PRINCIPIO “DEL CONTROLLO DA PARTE DELL’UTILIZZATORE”: precludere un approccio prescrittivo e assicurare che gli utilizzatori siano attori informati e abbiano il controllo delle loro scelte.

 

 

La carta, poi,classifica i possibili utilizzi della stessa I.A. in tre diverse categorie:

  • da incoraggiare (vi rientrano: la valorizzazione del patrimonio giurisprudenziale; la creazione di nuovi strumenti strategici per migliorare l’efficienza della giustizia);
  • da utilizzare con notevoli precauzioni metodologiche (comprendente, ad esempio, l’utilizzo nelle indagini al fine di prevedere ed individuare i luoghi in cui verranno o vengono commessi i reati);
  • da esaminare al termine di supplementari studi o con le più estreme riserve (tra questi: la profilazione degli operatori di diritto, l’utilizzo di algoritmi in materia penale al fine di profilare le persone, estrazione di una «norma» basata sull’insieme delle decisioni ovvero elaborazione di una regola vincolante di decisione fondata sull’analisi dei precedenti).

 

 

L’esigenza di disciplinare il ricorso all’I.A. nei processi decisionali che coinvolgono soggetti giuridici viene avvertita anche dal legislatore nazionale che, con l’art. 8 del D.lgs. n. 51/2018, proibisce “decisioni basate unicamente su un trattamento automatizzato, compresa la profilazione, che producono effetti negativi nei confronti dell'interessato, salvo che siano autorizzate dal diritto dell'Unione europea o da specifiche disposizioni di legge. Fermo il divieto di cui all'articolo 21 della Carta dei diritti fondamentali dell'Unione europea, è vietata la profilazione finalizzata alla discriminazione di persone fisiche sulla base di categorie particolari di dati personali di cui all'articolo 9 del regolamento UE” (sulla ricostruzione del quadro normativo cfr. Alberto ZIROLDI, Intelligenza artificiale e processo penale tra norme, prassi e prospettive, in www.questionegiustizia.it).

 

Ancora più di recente, il 6 ottobre 2021, il Parlamento europeo ha adottato la risoluzione “sull’intelligenza artificiale nel diritto penale e il suo utilizzo da parte delle autorità di polizia e giudiziarie in ambito penale”. La Risoluzione – particolarmente articolata – affronta i principali nodi problematici del rapporto tra Intelligenza Artificiale e diritto penale auspicando, tra l’altro, la “spiegabilità, la trasparenza, la tracciabilità e la verifica degli algoritmi … anche al fine di garantire che i risultati generati dagli algoritmi di IA possano essere resi intelligibili per gli utenti e coloro che sono soggetti a tali sistemi, e che vi sia trasparenza riguardo ai dati di base e alle modalità con cui il sistema è giunto a una certa conclusione” (cfr. M. MARTORANA, Intelligenza Artificiale e diritto penale, la risoluzione del Parlamento europeo, www.altalex.com).

Dall’analisi delle diverse tipologie di provvedimenti adottati - sia al livello nazionale che europeo – emerge, dunque, un’elevata aspettativa nei confronti dell’intelligenza artificiale riconosciuta come fattore di sviluppo anche in ambito giudiziario, ma con specifici profili controversi correlati ad alcuni usi della stessa I.A. (potenzialmente discriminatori) e alla capacità di garantire la necessaria trasparenza e intellegibilità nella ricostruzione del percorso algoritmico utilizzato dai sistemi per giungere alle conclusioni proposte.

L’aspetto della spiegabilità e della trasparenza degli algoritmi appare ancora più centrale nelle ipotesi di applicazione dell’I.A. al settore del diritto penale (processuale e sostanziale) dove sono in gioco i diritti fondamentale dell’indagato/imputato (e della parte offesa) e dove, paradossalmente, il ricorso all’I.A. presenta peculiari suggestioni nella prospettiva di evitare ingiustificate disparità di trattamento (o che possono apparire tali dal punto di vista del cittadino che entra nel meccanismo giudiziario - si pensi ad esempio alla diversa valutazione adottata per la determinazione della c.d. modica quantità di stupefacente – infra par. 9).

Le manifestazioni (embrionali) dell’intelligenza artificiale nell’ordinamento penale italiano: nella prevenzione di reati e nelle indagini preliminari (Marco Bisogni)

Sistemi di I.A. sono già in uso in alcune Questure italiane nell’ottica, squisitamente preventiva, di prevedere e contrastare la commissione di delitti.

Deli@ (software sviluppato dalla società KEYCrime e già utilizzato dalla Questura di Milano): ideato da un ex appartenente alle Forze dell’Ordine, viene utilizzato per la previsione di eventi predatori.

Il sistema, alimentato direttamente dalle forze dell’ordine, registra per ogni rapina rimasta attribuita ad ignoti (circostanza che impedisce a monte la profilazione di specifici individui) gli elementi maggiormente significativi riferiti:

  • al fatto di reato (tempo, luogo, tipologia di esercizio commerciale e modalità di svolgimento del delitto);
  • alle caratteristiche degli autori della rapina (età percepita dalle vittime, caratteristiche somatiche, abbigliamento);
  • all’arma e ad al mezzo di trasporto utilizzato.

 

Tutti questi fattori vengono successivamente analizzati dagli algoritmi del sistema che elabora previsioni sulle future strategie criminali individuando tempo e luogo nei quali, verosimilmente, verranno commesse nuove rapine.

L’applicativo – secondo le prime valutazioni effettuate - avrebbe avuto un significativo impatto nella riduzione (nel periodo 2008/2017) del numero assoluto di rapine perpetrate sul territorio di Milano (così G. MASTROBUONI, Crime is Terribly Revealing: Information Technology and Police Productivity, in Review of Economic Studies, pubblicato on line il 7 marzo 2020).

 

XLAW (Questure di Napoli, Salerno, Prato, Venezia, Parma e Modena): l’I.A. di XLaw (anche questa sviluppata da un ex appartenente alle forze dell’ordine) si basa sull’acquisizione di caratteristiche socio ambientali del territorio in esame in relazione ai delitti quotidiani consumati e scoperti, dalle denunce di cittadini o da altre informazioni di polizia o di attività di prossimità. L’applicativo opera sui modelli criminali che si configurano sul territorio in maniera ricorrente prevedendone la distribuzione spazio-temporale. L’interfaccia, grazie ad un sistema geografico informativo (GIS), fornisce alle forze dell’ordine una mappa di rischio riferita ai luoghi e agli orari precisi in cui si potrà consumare un crimine, con un anticipo anche di due ore. Viene altresì proposta una descrizione del tipo di crimine, del modus operandi dell’autore e del possibile target. Anche questo sistema avrebbe contribuito alla riduzione dei reati nei territori nei quali è stato dispiegato con sufficiente continuità (cfr. M. IASELLI, X-Law: la polizia predittiva è realtà, www.altalex.com).

 

 

Tentativi ulteriori di applicare sistemi di I.A. in chiave predittiva (anche se a cavallo con la fase inquirente) sono stati portati avanti anche da alcune procure siciliane che, nel 2016, avevano proposto al Ministero della Giustizia e nell’ambito dei finanziamenti IRESUD Sicilia l’approvazione di un progetto denominato “Efesto”.

Il progetto muoveva dall’esigenza di prevenire, contrastare e reprimere sul territorio siciliano il fenomeno degli incendi boschivi, quasi sempre derivati da atti di natura dolosa. Si trattava (e si tratta) di un fenomeno di rilevante portata sul quale le indagini risultavano particolarmente complesse afflitte da un’inevitabile difficoltà di raccolta di indizi sulla c.d. “scena del crimine” (distrutta dallo stesso incendio) e ostacolate dalla consumazione in zone remote e lontane dai centri abitati dove risultava assai complesso rintracciare testimonianze o altri fonti di prova idonee ad indirizzare le indagini (nel solo 2016 risultavano stati iscritti nelle quattro Procure proponenti più di 100 procedimenti di questa tipologia).

L’idea era, dunque, quella di mutare la prospettiva di azione analizzando il fenomeno nelle sue manifestazioni nell’ultimo quinquennio sul territorio al fine di acquisire le informazioni indispensabili per orientare efficacemente l’azione investigativa prevedendo i luoghi dei possibili nuovi fatti di reato.

 

La banca dati che si voleva creare (che avrebbe dovuto costituire la base della successiva interrogazione algoritmica) avrebbe contenuto tra l’altro:

  • l’indicazione delle località ricorrenti coinvolte dalle azioni incendiarie;
  • le modalità seguite per l’innesco dell’incendio;
  • la successiva destinazione d’uso riservata ai fondi coinvolti dagli stessi incendi al fine di verificare il rispetto dei vincoli imposti dall’art. 10 della legge 21 novembre 2000.

Il progetto (poi non implementato) promuoveva però l’affiancamento all’attività di indagine di sistemi di I.A. per implementare la capacità di investigativa.

 

Spostandosi nella specifica ottica delle indagini preliminari, deve essere rilevato come la Direzione Nazionale Antimafia (e a cascata le Direzioni Distrettuali Antimafia) dispone già di strumenti di analisi particolarmente avanzati ovvero la banca dati SIDDA/SIDNA.

 

La banca dati contiene un’enorme mole di atti e documenti che provengono da tutti i procedimenti penali sviluppati dalle diverse Direzioni Distrettuali Antimafia operanti sul territorio nazionale (che hanno l’obbligo di conferire entro 48 ore gli atti redatti).  Gli atti vengono inseriti attraverso un sistema di data entry strutturato (gestito da appartenenti alle forze dell’ordine) e che garantisce la particolare qualità dei dati inseriti. L’inserimento viene svolto attraverso le seguenti fasi:

  • catalogazione della tipologia di atto
  • analisi delle informazioni contenute nell’atto e collocazione all’interno di categorie generali previste dalla banca dati (ad esempio: soggetto citato, numero del procedimento penale, associazione criminale coinvolta, utenze cellulari, operazioni finanziarie, etcc…)

 

Tutti i documenti sono inseriti in formato editabile e ricercabile agevolandone la fruibilità da parte dei magistrati e dei loro collaboratori.

L’applicativo – proprio grazie alla particolare cura nella strutturazione del dato - consente interrogazioni intelligenti attraverso relazioni qualificate che incrociano i dati e restituiscono vere e proprie analisi investigative che, già in parte, replicano la consultazione umana degli atti interrogati. È possibile ad esempio: verificare l’utilizzo di specifiche armi in un determinato contesto geografico; verificare quali organizzazioni mafiose siano (o siano state) operative in un determinato contesto territoriale e/o criminale; verificare la ricorrenza di soggetti (anche con ruoli apparentemente marginali) in contesti di indagine differenziati. Analisi analoghe vengono compiute dai sistemi avanzati di analisi del traffico telefonico o da software di origine privata in grado di mettere in relazione dati provenienti da diverse fonti informative per rivelare all’inquirente possibili connessioni investigative.

 

Sono, inoltre, in fase di veloce sviluppo e diffusione sistemi che – grazie all’intelligenza artificiale - propongono all’inquirente (o al decidente) elementi di valutazione già potenzialmente idonei ad essere inseriti in una catena logico deduttiva finalizzata alla decisione finale. Si tratta di applicazioni – alcune già diffuse e altre ancora in fase embrionale - che presentano potenzialità estremamente suggestive, ma il cui concreto utilizzo in fase processuale (o anche solo in una fase procedurale di tipo amministrativo) deve essere attentamente ponderato proprio in considerazione del tipo di analisi restituita.

Tra i sistemi già diffusi e attualmente in uso rientrano quelli di riconoscimento facciale in dotazione alle forze dell’ordine italiane già dal 2017 (nello specifico il c.d. S.A.R.I. che integra la banca dati delle impronte digitale - AFIS - con le immagini ricavate dai fotosegnalamenti effettuati dalle forze dell’ordine).

 

Il S.A.R.I. – acronimo che sta per Sistema Automatico di Riconoscimento Immagini – è in grado di comparare l’immagine di un soggetto non ancora identificato (acquisita magari da una telecamera di sorveglianza) con tutte quelle contenute in banca dati e, utilizzando due specifici algoritmi, restituisce possibili individuazioni elencate sulla base di un indice di “similarità”. L’uso del software può avvenire sia nella fase delle indagini preliminari (al fine di contribuire – unitamente ad altri elementi indiziari - alla possibile identificazione del reo) sia nel corso del dibattimento come vero e proprio elemento probatorio a carico (o a discarico dell’imputato).

Tali programmi – attesa l’enorme diffusione dei sistemi di videosorveglianza (pubblici e privati) e l'incremento del ricorso a microtelecamere nel corso delle indagini preliminari (specie in materia di criminalità organizzata) - stanno acquisendo una sempre maggiore importanza in ambito penale ed impongono, pertanto, un necessario approfondimento sulle modalità di funzionamento (Cfr. Ernestina SACCHETTO, Face to face: il complesso rapporto tra automated facial recognition techonology e processo penale, https://www.iris.unito.it).

I sistemi di riconoscimento facciale, infatti, non sono infallibili, al contrario hanno indici di accuratezza fortemente influenzati dalla tipologia di soggetto sottoposto al vaglio degli algoritmi: nel caso maschi bianchi la precisione è molto alta vicina al 99%, ma, di fronte a volti femminili o a differenti etnie, l’attendibilità cala vertiginosamente fino al 35% per le donne di pelle scura (cfr. Joy Buolamwini, Timnit Gebru, Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification, Proceedings of Machine Learning Research 81:1–15, 2018).

 

Il magistrato – requirente o giudicante - dovrà trattare, pertanto, tali acquisizioni come prove atipiche ex art. 189 c.p.p. valutandone attentamente la rilevanza proprio attraverso l’approfondimento del funzionamento degli algoritmi e della loro fallibilità (analogamente a quanto accade nella procedura di valutazione dibattimentale dell’attendibilità di un riconoscimento fotografico effettuato da un testimone nella fase di indagini preliminari – Cass., Sez. VI, 31 ottobre 2018, n. 17103).

 

Il sistema S.A.R.I., inoltre, potrebbe essere utilizzato anche in modalità real time che “consente, attraverso una serie di telecamere installate in un’area geografica predeterminata e delimitata, di analizzare in tempo reale i volti dei soggetti ivi ripresi, confrontandoli con una banca dati predefinita per lo specifico servizio (denominata "watch-list"), la cui grandezza è di massimo 10.000 volti. Ove venga riscontrata, attraverso un algoritmo di riconoscimento facciale, una corrispondenza tra un volto presente nella watch-list ed un volto ripreso da una delle telecamere, il sistema è in grado di generare un alert che richiama l'attenzione degli operatori. Il sistema consente, inoltre, di registrare i flussi video delle telecamere “fungendo, in tal senso, quale attività di video sorveglianza” (dal Parere del Garante della Privacy sul sistema Sari Real Time - 25 marzo 2021 - Registro dei provvedimenti n. 127 del 25 marzo 2021).

Si tratta, in questo caso, di uno profilo di controllo particolarmente invasivo sul quale si è già pronunciato negativamente il Garante della Privacy che, con il parere sopra citato, ha ritenuto di esprimere "parere non favorevole nei termini di cui in motivazione sul progetto e avverte il titolare che il trattamento dei dati biometrici tramite il sistema Sari Real Time, appare non conforme alla disciplina di cui al Decreto, in mancanza di adeguate e specifiche disposizioni normative legittimanti”.

 

 

Il Garante ha, infatti, individuato diverse condivisibili criticità potenzialmente connesse all’uso di queste funzionalità dell’applicativo e riconducibili:

  • alla possibilità che “il sistema in argomento realizza un trattamento automatizzato su larga scala che può riguardare, tra l’altro, anche coloro che siano presenti a manifestazioni politiche e sociali, che non sono oggetto di “attenzione” da parte delle forze di Polizia” consentendo così - almeno potenzialmente - di profilare l’orientamento politico di una massa indeterminata di soggetti e passando nella sostanza “dalla sorveglianza mirata di alcuni individui alla possibilità di sorveglianza universale allo scopo di identificare alcuni individui”;
  • alla considerazione che esistono “limiti delle tecniche in argomento, notoriamente basate su stime statistiche della corrispondenza tra gli elementi confrontati e, quindi, intrinsecamente fallibili, stimando le eventuali conseguenze per gli interessati in caso di falsi positivi”.

 

Tra i sistemi ancora in fase embrionale rientra, invece, il progetto – finanziato dalla Commissione europea con la cifra non irrisoria di 4,5 milioni di euro - denominato “IBorderCtrl”. Si tratta di un sistema che, nella rappresentazione degli sviluppatori, è in grado di valutare la sincerità delle risposte fornite attraverso la registrazione audio video della mimica facciale durante una sessione di risposte a sedici domande. Una sorta di “macchina della verità” che dovrebbe essere messa in esercizio al fine di monitorare gli accessi nei paesi UE di cittadini provenienti da stati extraeuropei e che, in via sperimentale, è già attivo in alcune zone di frontiera ungheresi e greche.

 

L’elencazione appena riportata rivela, pertanto, come - già all’attualità - il quadro dell’utilizzo dell’I.A. nella fase preventiva e investigativa si muova su crinali complessi a cavallo tra utilizzi “da incoraggiare” o “da utilizzare con notevoli precauzioni metodologiche” (secondo la categorizzazione proposta dalla Carta etica del CEPEJ).

Invero gli strumenti di polizia predittiva così come attualmente dispiegati in concreto, non risultano alimentati da dati individuali riferiti a singoli soggetti (circostanza che avrebbe posto indubbi problemi metodologici e di compatibilità con l’assetto costituzionale e ordinamentale), ma da evidenze oggettive che attengono alle caratteristiche del fatto di reato. Anche la tipologia di risultato restituito dagli applicativi (essenzialmente collegato al luogo in cui è più verosimile che si commetta un nuovo delitto) non sembra presentare, allo stato, alcuna criticità sistemica riferita al singolo e anzi, paradossalmente, inibendo la commissione di reati, riduce il rischio individuale di coinvolgimento in un procedimento penale. Tale conclusione deve, tuttavia, essere costantemente monitorata attraverso una revisione continua dei dati inseriti nei sistemi inibendo l’alimentazione della banca dati con informazioni soggettive o anche solo potenzialmente discriminatorie (collegate, ad esempio, alla composizione etnica degli abitanti di un determinato quartiere – cfr. Fabio BASILE, Intelligenza artificiale e diritto penale: quattro possibili percorsi di indagine, dirittopenaleuomo.org).

Parimenti il ricorso all’I.A. per potenziare le capacità investigative collegando fatti, eventi o informazioni provenienti da documenti cartacei o informatici deve essere individuata tra gli utilizzi su quali investire maggiormente nell’ottica di indagini sempre più veloci e complete in grado di acquisire in tempi rapidi anche gli elementi a favore dell’indagato e riducendo, contestualmente, il tempo di “esposizione” all’attività degli inquirenti (circostanza questa già potenzialmente pregiudizievole per i soggetti che entrano in contatto - come parti offese o come indagati - con il procedimento penale).

Gli strumenti di analisi per la ricerca della prova forniscono, infatti, esiti che dovranno essere poi essere valutati dal punto di vista indiziario o probatorio secondo le regole previste dal codice di procedura penale (l’individuazione di una specifica relazione tra soggetti restituita dalla banca dati SIDDA/SIDNA dovrà poi essere riempita di senso dall’organo inquirente nella prospettiva di acquisire elementi rilevanti per le indagini).

 

Valutazioni molto più prudenti devono invece essere riservate agli elementi indiziari (o probatori) generati direttamente da sistemi di I.A.: in queste ipotesi, infatti, si impone all’inquirente (e poi al giudicante) una particolare attenzione dello studio dell’algoritmo che dovrà essere compreso e spiegato nell’ottica fatta propria dal Paramento Europeo nella risoluzione del 2021.

(Segue) Nel Processo penale. Algoritmi decisori. Le assegnazioni automatizzate dei procedimenti. Il Portale del processo penale e la valutazione automatizzata dei depositi dei difensori. Il giusto processo digitale (Roberto Patscot)

La gestione informatizzata del procedimento penale adottata fino ad oggi dal ministero della giustizia ha visto il progressivo sovrapporsi di molteplici software autonomi che gestiscono, spesso senza possibilità di idonea e/o efficiente interrelazione tra loro, solo alcune fasi strumentali per i servizi giudiziari o per l’attività più strettamente giurisdizionale penale.

Negli ultimi anni si è assistito al tentativo di rimeditazione strategica dell’uso di tali applicativi nell’ambito di una complessiva reingegnerizzazione delle procedure automatizzate; tuttavia, non è stato ancora realizzato un sistema organico di gestione digitale del procedimento penale e tantomeno un compiuto processo penale telematico.

La mancanza di un approccio digitale di insieme non ha però impedito la realizzazione di parziali ambiti di automazione del procedimento penale.

 

I software del settore penale, seppur definibili come “protoapplicativi” in quanto adottati in vista della loro definitiva integrazione in un sistema compiuto di gestione delle complessive fasi della giurisdizione penale, presentano già alcuni sorprendenti usi dell’intelligenza artificiale (IA).  

Va detto, innanzitutto, che definire l’intelligenza artificiale è arduo quanto formulare una descrizione dell’intelligenza naturale. Si può però convenire, con definizione semplificativa e sintetica, che l’intelligenza artificiale è un insieme di tecnologie che combina dati, algoritmi e potenza di calcolo.

È chiaro che gli applicativi realizzati dall’amministrazione giudiziaria, laddove utilizzino algoritmi e potenza di calcolo, sono anche innegabilmente idonei ad esplicare una funzione riconducibile al perimetro dell’IA allorché pervengono a realizzare azioni, a svolgere funzioni decisorie o ad assistere a fasi decisorie.

Si pensi, innanzitutto, al sistema del SICP (Sistema Informativo della Cognizione Penale: il software di gestione dei dati fondamentali dei registri della cognizione penale con funzioni di importazione, modifica, consultazione e conservazione dei file) con il quale è possibile, tra le varie funzioni, anche attivare l’automatica assegnazione dei fascicoli dei procedimenti penali ai magistrati, selezionando la tipologia di reati da assegnare algoritmicamente ad uno o più gruppi di magistrati secondo le rispettive specializzazioni ed impostando eventualmente percentuali di assegnazioni ai singoli magistrati; ebbene, tali funzioni informatizzate implicano automatiche operazioni in ordine al calcolo del numero delle sopravvenienze dei procedimenti penali, nonché all’ applicazione di progressivi criteri perequativi ed alla distribuzione dei procedimenti medesimi.

Risulta evidente che siamo di fronte a decisioni, in ordine all’assegnazione dei fascicoli d’indagine e processuali, assunte da un sistema informatizzato mediante un programma di elaborazione che ricalca, senz’altro, il paradigma che sopra abbiamo indicato come riferibile all’IA. Un algoritmo (ovvero un meccanismo di calcolo che, secondo criteri predeterminati, elabora output decisori) viene, quindi, chiamato a governare una fase cruciale, seppur strumentale, dell’esplicazione della funzione giudiziaria. E, se è dato acquisito che le funzioni decisorie promananti direttamente dall’uomo devono rispettare uno specifico obbligo motivazionale che garantisca il principio di trasparenza per consentire di esplicare efficacemente il pieno sindacato sulla decisione, deve affermarsi che, parallelamente, anche le menzionate funzioni decisorie automatizzate dovrebbero soddisfare un analogo principio di trasparenza.

Su questi temi la Commissione Europea ha, in particolare, evidenziato che dovrebbe essere garantita la tracciabilità dei sistemi di IA per registrare e documentare sia le decisioni adottate dai sistemi sia l'intero processo che ha prodotto le decisioni stesse, compresa una descrizione della raccolta e dell'etichettatura dei dati, nonché una descrizione dell'algoritmo utilizzato. In tale contesto dovrebbe essere, perciò, prevista, per quanto possibile, la spiegazione del processo decisionale degli algoritmi (si veda la Comunicazione della Commissione Europea al Parlamento, al Consiglio, al Comitato economico e sociale Europeo e al Comitato delle Regioni dell’8 aprile 2019). In relazione alle decisioni automatizzate appare, quindi, configurabile un vero e proprio diritto alla spiegazione (cd. “right to explenation”, peraltro già oggetto di una prima disciplina nell’ambito dei processi decisionali automatizzati previsti dall’art. 71 del regolamento dell’Unione Europea n. 679 del 27 aprile 2016 relativo alla protezione delle persone fisiche con riguardo al trattamento dei dati personali, nonché alla libera circolazione di tali dati) nei confronti del funzionamento dell’algoritmo (cfr. anche supra par 2).

 

Analoghe problematiche presenta l’uso del Portale Deposito atti Penali-PDP il quale è un sistema informatizzato di accesso, attraverso la rete internet, ai servizi telematici resi disponibili dal dominio giustizia, specificamente orientato al deposito di atti, documenti e istanze dei difensori (il portale del processo penale telematico, con apposita disposizione tecnica del DGSIA n. 5477 dell’11 maggio 2020, è stato espressamente individuato nel sistema informatizzato del PDP ed istituito durante la fase dell’emergenza epidemiologica dall’art. 83, comma 12-quater.1, terzo periodo, del d.l. 17 marzo 2020, n. 18 convertito con modificazioni dalla L. 24 aprile 2020, n. 27 e poi ulteriormente regolamentato, sempre in relazione a detta emergenza, dall’art. 24 del d.l. 28 ottobre 2020 n. 137 convertito, con modificazioni, dalla legge 18 dicembre 2020, n. 176, le cui diposizioni continueranno, peraltro, ad applicarsi fino alla data del 31 dicembre 2022 in forza del disposto dell’art. 16 del d.l. 30 dicembre 2021 n. 228)  .

L’applicativo del PDP, al fine di acquisire validamente gli atti inseriti dai difensori, procede (previa anche verifica degli standard tecnici del formato dei file) ad una elaborazione automatizzata, con l’ausilio di un sistema di riconoscimento ottico dei caratteri (OCR: Optical Character Recognition), dei documenti informatici depositati dal difensore. Dopo tale riconoscimento l’applicativo effettua l’analisi algoritmica del testo del documento, verificando anche automaticamente la coerenza fra le informazioni fornite dal difensore al momento dell’accesso al portale e quelle riportate nel documento stesso, onde associarlo correttamente al procedimento per il quale se ne chiede il deposito.

Conclusa questa prima fase di controlli automatizzati, il documento e le informazioni fornite dal depositante vengono traslate nella disponibilità informatica della segreteria del pubblico ministero che potrà, così, gestire una seconda fase di controlli “manuali”, operando, solo secondo i limiti definiti dall’esito delle verifiche automatizzate del sistema, un accertamento definitivo della congruenza tra il documento informatico, i dati forniti dal depositante ed il procedimento penale pendente presso l’ufficio giudiziario. In buona sostanza il personale della segreteria del pubblico ministero, avvalendosi dell’ausilio dell’intelligenza della macchina, cioè dell’esito dei preventivi controlli automatici eseguiti dai sistemi, potrà accettare o rifiutare il deposito (cfr. art. 8 del provvedimento del Direttore generale per i  servizi informativi automatizzati in data 24 febbraio 2021).

È evidente che il sistema, imponendo sia standard tecnici di acquisizione degli atti, sia requisiti di coerenza ai fini dell’associazione degli atti depositati ai procedimenti penali, esegue dei controlli automatizzati sulla “legittimità” (intesa come conformità del “gesto” procedimentale alla norma tecnica) attraverso algoritmi che valutano autonomamente alcuni aspetti di “ritualità processuale”, non solo meramente tecnologici. Tali caratteristiche “intelligenti” del software di gestione del PDP, potendo implicare in concreto effetti automaticamente paralizzanti del deposito degli atti, dovrebbero essere controbilanciate da idonei strumenti di trasparenza per l’utente sull’esecuzione delle procedure tecniche, al fine di documentare anche un possibile malfunzionamento del sistema (si vedano su tali tematiche la Risoluzione del Parlamento europeo del 12 febbraio 2020 sui processi decisionali automatizzati e la Carta etica europea sull’utilizzo dell’intelligenza artificiale nei sistemi giudiziari e negli ambiti connessi adottata dalla CEPEJ a Strasburgo il 3-4 dicembre 2018 – ancora supra par. 2).

 

Estremamente ridotta è, purtroppo, la tutela che è prevista per far valere i “crash” del PDP; ai difensori è , infatti, garantita la mera facoltà di essere restituiti nei termini stabiliti a pena di decadenza, ai sensi dell’art. 175 c.p.p., utilizzando eventualmente l’attestazione di “malfunzionamento” del PDP che il  Direttore generale per i servizi informativi automatizzati comunica con provvedimento pubblicato nel Portale dei servizi telematici del Ministero della giustizia (art. 24, comma 2-bis del d.l. 28 ottobre 2020 n. 137, convertito con modificazioni dalla legge 18 dicembre 2020, n. 176).

Si tratta, con tutta evidenza, di una tutela che è lungi dal prevedere il rilascio ai difensori di “report” di sistema che possano documentare eventuali fasi di “down” del PDP. Tale assetto tecnologico sembra non considerare adeguatamente che nel procedimento penale è, invece, fondamentale verificare a posteriori (anche attraverso strumenti facilmente intellegibili per la tracciabilità del funzionamento degli applicativi informatici) che vi sia stata l’effettiva possibilità di esercitare le facoltà garantite dalla legge, onde poter porre rimedio ad eventuali patologie procedimentali, seppur determinate da cause meramente tecniche.

 

Proprio per far fronte a queste criticità la delega al governo per l'efficienza del processo penale di cui alla legge 27 settembre 2021, n. 134 stabilisce, all’art. 1 comma 5 lett. e, che è necessario prevedere, per i casi di malfunzionamento dei sistemi informatici dei domini del Ministero della giustizia, che siano predisposti sistemi di accertamento effettivo e di registrazione dell'inizio e della fine del malfunzionamento, in relazione a ciascun settore interessato, nonché che sia data tempestiva notizia a tutti gli interessati e comunicazione pubblica del malfunzionamento e del ripristino delle ordinarie condizioni di funzionalità dei sistemi informatici. La declinazione concreta di questi canoni postula, tuttavia, l’approccio ad una nuova dimensione di trasparenza del funzionamento “interno” dei sistemi informatici in quanto appare evidente che, in un contesto di avanzata evoluzione tecnologica del processo penale, non è più possibile considerare la modalità computazionale e la dinamica elettronica della procedura informatizzata come un campo d’azione sottratto al controllo giurisdizionale.
Difatti, la matrice informatica degli atti e del loro deposito, disegnando una nuova modalità d’azione nel procedimento penale, implica necessariamente l’estensione dell’ambito delle tradizionali categorie del codice di rito (tra le quali non ultime quelle relative, in particolare, alle nullità ed alle inammissibilità) alla nuova architettura digitale del sistema processuale penale. Da ciò deriva, quindi, la traslazione pressoché completa del “procedimento penale informatico” nell’alveo delle garanzie del procedimento penale analogico con la progressiva sovrapposizione e fusione di istituti analogici e digitali i quali non possono che soddisfare le medesime esigenze di tutela delle parti in vista della piena realizzazione di un “giusto processo digitale”.

La struttura del processo informatizzato: dalla matrice tridimensionale a quella bidimensionale del fascicolo. L’intelligenza naturale e l’approccio metacognitivo al dato digitale processuale. Verso un “multiverso” del processo penale? (Roberto Patscot)

Il processo penale svolto con l’esame di documenti digitali, sia sotto forma di atti nativi digitali che di copie digitali di documenti analogici, comporta la modifica del rapporto del magistrato e dell’avvocato con il materiale del procedimento. L’esame degli atti e dei documenti attraverso un sistema informatico conduce ad una visione bidimensionale della catena procedimentale e dei subprocedimenti. Viene quindi superata la tradizionale percezione tridimensionale del fascicolo cartaceo cosicché il giudizio, nel contraddittorio delle parti, si forma seguendo anche il percorso delle directory e sottodirectory nelle quali si catalogano ed indicizzano gli atti ed i documenti.

 

Al fine di consentire il vaglio approfondito del materiale processuale e scongiurare il pericolo di un suo difetto di intellegibilità diviene, perciò, nodale l’elaborazione di una corretta modalità di categorizzazione dei file per consentire non solo il mero “scroll” dei documenti, ma una visione organica del procedimento.

A dispetto di tale considerazione, purtroppo, spesso si confonde la sommaria digitalizzazione degli atti con la effettiva realizzazione di un efficiente processo penale telematico foriero di velocizzazione e razionalizzazione delle procedure.

Va chiarito, quindi, che la massiva acquisizione digitale del materiale processuale in grossolani software -incapaci di segmentare e distinguere con precisione gli atti ed i documenti allocandoli con correttezza nelle appropriate catene procedimentali- non agevola affatto l’esercizio della giurisdizione.

 

La perdita della materialità del fascicolo dovrebbe, peraltro, essere seguita dal recupero della possibilità di compiuta percezione del contenuto digitalizzato del fascicolo stesso e pertanto andrebbero ristabiliti, sotto forma di organizzazione informatica, i canoni operativi che consentono l’immediata ed ordinata reperibilità degli atti del fascicolo.

Gli studi di neuroscienze documentano come l’uomo si sia evoluto costruendo il rapporto tra cervello e materialità elaborando specifici moduli di interazione mentale con gli oggetti fisici (si veda per un panorama su tali studi “Carta contro pixel” di Ferris Jabr, Gennaio 2014), la grande sfida, alla luce dell’evoluzione tecnologica, è quindi “resettare” il sistema di percezione del “fascicolo” introducendo però nelle macchine quei correttivi che consentano al digitale di restituire, seppur in forma diversa, ciò che nei computer manca del mondo sensibile ed analogico.

 

La capacità di scorrimento materiale delle pagine di un fascicolo consente di allocare non solo mentalmente ma anche fisicamente i punti di riferimento dei percorsi logici seguiti nella lettura degli atti, passando rapidamente dalla lettura di un documento all’ altro per mezzo proprio dell’ ausilio della materialità dei fogli, ad esempio, inserendo un segnalibro o una matita tra un foglio ed un altro, laddove vi è un documento nodale, o semplicemente tenendo tra le mani uno dei fogli, mentre se ne consultano altri, o, ancora, allocando uno o più atti in punti diversi della propria scrivania, separandoli dal resto dei documenti. Le predette operazioni materiali consentono, dapprima, di selezionare i documenti che si vogliono utilizzare per costruire un’ipotesi di percorso logico di valutazione degli atti del procedimento e, poi, di procedere al rapido confronto degli atti stessi, osservandoli e comparandoli tra loro quasi contemporaneamente , semplicemente spostando gli occhi da un punto all’altro della menzionata scrivania; la ripetizione di tali operazioni (selezione materiale dei documenti rilevanti, creazione di un’ipotesi di percorso logico fondato sull’esame congiunto degli atti e formulazione di conclusioni sulla base degli atti esaminati) viene effettuata, di regola, più volte fino a giungere ad una valutazione conclusiva degli atti scrutinati. Si impone a questo punto un quesito: questa fondamentale esperienza metacognitiva è ripetibile con l’ausilio di strumenti digitali?

 

A parere di chi scrive il descritto percorso logico/sensibile è digitalmente emulabile, almeno in parte, con adeguati strumenti tecnologici hardware e software (ad esempio con multischermi, scrivanie virtuali, touchscreen, inchiostro elettronico, link ipertestuali etc.). Deve essere, però, chiaro che l’utilizzazione di strumenti informatici non evoluti limita fortemente l’immediatezza degli approcci cognitivi digitali rispetto all’uso dei supporti analogici. Una tecnologia “basic” ed implementata con software dalle prestazioni minimali corre, quindi, il rischio di arrecare più danni che benefici all’efficienza della giurisdizione penale. Deve, infatti, potersi colmare con appropriate tecnologie la distanza tra la realtà fenomenica del fascicolo cartaceo ed il “multiverso” del processo digitale penale (ormai arricchito anche di veri e propri apparati plurimediali, si pensi infatti alle udienze da remoto ed all’accesso agli audio/video dell’archivio delle intercettazioni) nel quale si sta progressivamente confinando la secolare esperienza di un processo che prima era celebrato esclusivamente nel mondo della pura materialità.

Racchiudere nei codici binari, seppur parzialmente, l’esperienza del processo presuppone una preventiva presa di coscienza della complessità dell’interazione tra giudizio umano e rappresentazione digitale del mondo. In tale prospettiva non deve perdersi la consapevolezza che, pur se per qualcuno il tempo delle “cose reali” è in parte finito (si legga Le non cose di Byung Chul Han, 2022), la nuova dimensione delle “cose digitali” non può indurci a distogliere il nostro sguardo dai principi fondamentali che connotano l’esercizio della giurisdizione.

Altrimenti il diritto pur non scomparendo rischierebbe di essere “scavalcato da un altro sapere che pretende di raccontare una verità più completa, integrando le pratiche e offrendo una maggiore affidabilità” (Antoine Garapon Jean Lassègue, La giustizia digitale, 2021).

Il nuovo rito digitale implicando la modifica strutturale degli atti e dei gesti che lo generano propone in realtà una sfida epocale tra l’intelligenza naturale e la macchina: sarà il diritto che piegherà la tecnologia o viceversa?

L’architettura sostenibile dei sistemi digitali del processo penale telematico e la copia del cartaceo: prospettive evolutive. La libertà personale ed i pericoli della “lentezza digitale” della Giustizia (Roberto Patscot)

Dal punto di vista dell’architettura generale dei sistemi informatici è assolutamente controproducente considerare il processo penale telematico come una semplice copia digitale del processo penale cartaceo, senza introdurre l’importazione nativa dei dati e dei metadati degli atti per garantire la gestione digitale degli stessi (ad es. con il calcolo automatizzato dei termini processuali di custodia o con la generazione digitale degli avvisi e degli atti del procedimento).
Né, in tale prospettiva, va trascurata la necessaria riconduzione nell’alveo del telematico di tutti i segmenti investigativi che vengono a formarsi innanzi alla polizia giudiziaria e che dovrebbero riversarsi, ab origine ed immediatamente, nel procedimento telematico sotto forma di dati e metadati digitali (ad esempio con la redazione degli atti di polizia giudiziaria direttamente con un software in grado di far traslare il contenuto degli atti nei sistemi digitali dell’amministrazione giudiziaria evitando ogni inutile duplicazione di digitazione degli stessi).

Anche i tempi legati ai processi di input e output (secondo il percorso “digitazione-elaborazione-risposta della macchina”) dei sistemi digitali andrebbero sempre monitorati non essendo tollerabili, per i cicli di lavorazione connaturali alla morfologia del procedimento penale (non si trascuri che i lassi temporali per l’emanazione dei provvedimenti sono spesso calcolati anche in ore ed hanno attitudine ad incidere sulla libertà personale, come ad esempio per le convalide del fermo o dell’arresto), i rallentamenti che spesso affliggono gli apparati tecnologici strutturali ed infrastrutturali del nostro paese.

In definitiva un’architettura efficiente e “sostenibile” dei sistemi digitali del processo penale telematico va organizzata con tecnologie all’avanguardia ed evolute, in difetto di ciò si aprirebbero le porte a deleterie e paradossali forme di “lentezza digitale” della Giustizia.

I big data giudiziari: gestione pubblica e privata. I motori di ricerca ed il ranking degli orientamenti giurisprudenziali in rete: le misteriose risposte dell’intelligenza artificiale delle aziende big tech (Roberto Patscot)

L'intelligenza artificiale si sta sviluppando rapidamente e può innegabilmente comportare potenziali rischi, tra i quali processi decisionali opachi.
I dati sono al centro di questa trasformazione ed in una società in cui gli individui genereranno quantità sempre maggiori di dati, il modo in cui tali dati vengono raccolti e utilizzati deve mettere al primo posto gli interessi dell'individuo in conformità con i valori, i diritti fondamentali e le regole europee (si vedano il Libro bianco presentato dalla Commissione Europea il 19 febbraio 2020 dal titolo “White Paper on Artificial Intelligence: a European approach to excellence and trust”, la Comunicazione della Commissione Europea al parlamento europeo, al consiglio, al comitato economico e sociale europeo e al comitato delle regioni del 19 febbraio 2020, nonché le Linee guida per l’uso dell’intelligenza artificiale in campo militare e civile proposte dal Parlamento europeo il 20 gennaio 2021).
La ricerca di una strategia dell’Unione Europea in materia di accesso al crescente volume di dati è sintomatica della necessità di verificare anche all’interno degli ordinamenti dei singoli Stati quali sono gli aggregati di dati che necessitano di particolari tutele ed attenzioni.

 

Il termine “big data” si riferisce a grandi quantità di tipi diversi di dati prodotti da varie fonti, fra cui persone, macchine e sensori. Alcuni esempi sono i dati sul clima, le immagini satellitari, le immagini e i video digitali, le registrazioni di operazioni o i segnali GPS. I big data possono comprendere dati personali come informazioni riguardanti una persona, un nome, una fotografia, un indirizzo e-mail, estremi bancari, messaggi postati sui siti delle reti sociali, informazioni cliniche o l’indirizzo IP di un computer (si veda la Scheda informativa dell’Unione Europea del gennaio 2016 sulla riforma della protezione dei dati del UE e i big data).

Appare evidente come il tema dei megadati investa ormai anche i dati giudiziari.
Infatti, le Procure della repubblica, le Procure generali, i Tribunali, le Corti d’appello, la Cassazione e tutti gli uffici dell’Amministrazione giudiziaria, nonché, in parte, anche le forze di Polizia giudiziaria, sono secondo diverse graduazioni, i protagonisti della acquisizione, condivisione e gestione, per mezzo di reti informatiche anche connesse al web, di grandissime quantità di dati eterogenei (documenti digitali, file audio, file video, file di log, tabulati di traffico telematico, intercettazioni, indirizzi email, indirizzi IP, ed innumerevoli ulteriori dati traccianti) relativi alla complessiva attività giudiziaria. I sistemi informatizzati del Ministero della giustizia che, originariamente erano basati su semplici ed autonomi database operanti separatamente in ciascun Ufficio giudiziario, si collocano oggi nell’ambito di una più ampia rete informatica nazionale a sua volta connessa alla rete internet globale.
La mole di dati che transita nei server della rete dell’Amministrazione giudiziaria risulta quindi riconducibile alla nozione di big data, trattandosi di grandi quantità di dati eterogenei dai quali possono ottenersi ulteriori informazioni “sensibili”, per mezzo di sistemi di elaborazione.

 

È evidente che la gestione di questi dati consentirebbe attraverso moduli di intelligenza artificiale (cioè di tecnologie che combinano dati, algoritmi e potenza di calcolo) di generare funzioni di interrogazione con individuazione di comportamenti, tendenze ed abitudini (aggregate e disaggregate) di singoli soggetti o di categorie di soggetti, rapportandoli anche ad ambiti spaziali e temporali (si vedano l’ Indagine conoscitiva sui Big Data dell’ Agcm, dell’ Agcom e del Garante per la protezione dei dati personali del 10 febbraio 2020, nonché la Risoluzione del Parlamento Europeo del 14 marzo 2017 sulle implicazioni dei Big Data per i diritti fondamentali).

Il soggetto pubblico che detiene e gestisce il dato giudiziario è però tenuto ad utilizzarlo in conformità della funzione giudiziaria di volta in volta esplicata. Come vedremo, infatti, nel paragrafo che segue, i limiti di utilizzo di tali dati devono adeguarsi ai limiti dei poteri che ne radicano la titolarità.

Il campo pubblico di gestione dei big data non esaurisce però il perimetro della loro utilizzazione automatizzata. Deve valutarsi, infatti, che i privati (in particolare le aziende “big tech” dotate di avanzate tecnologie di elaborazione dei dati per mezzo dell’intelligenza artificiale) possono realizzare forme di gestione dei big data giudiziari apparentemente innocue, ma potenzialmente manipolative della loro capacità di fedele rappresentazione della realtà.
Si pensi ai risultati ottenibili con un motore di ricerca in internet all’esito di un’interrogazione con parole chiave volte ad effettuare una consultazione di indirizzi giurisprudenziali presenti in rete: in assenza della conoscenza della struttura dell’algoritmo usato per fornire la lista automatizzata dei link “rilevanti”, come si verificherà l’affidabilità dei risultati ottenuti?
Le “risposte” fornite dal motore di ricerca potrebbero essere, infatti, frutto della “programmata” indicizzazione di siti contenenti solo uno dei possibili orientamenti giurisprudenziali tra quelli riconducibili alla query formulata e di tale “volontaria “scelta della macchina l’utilizzatore del motore di ricerca non potrà sapere mai nulla non avendo accesso agli specifici criteri di “rilevanza” codificati nell’algoritmo di ricerca.

Non essendo noto come il motore di ricerca proceda all’ assegnazione dei valori di ranking dei siti, rimarranno del pari ignoti tutti i criteri di selezione dei risultati restituiti dal sistema automatizzato; non potendosi, inoltre, trascurare che tali risultati potrebbero anche essere semplicemente orientati a soddisfare le aspettative e le preferenze dello stesso utente, individuate sulla base dei suoi interessi desunti dalle pregresse ricerche in internet memorizzate dal sistema utilizzando i cookie. Risulta quindi evidente che ogni massiva gestione informatizzata dei dati giudiziari da chiunque venga effettuata, per l’intrinseca delicatezza dell’informazione che essi contengono, presenta delicati risvolti in relazione ai molteplici effetti del trattamento effettuato.

La titolarità dei dati giudiziari e dei dati statistici. La “separazione dei poteri digitali” dello Stato: indipendenza della funzione giudiziaria e competenze del Ministero della giustizia. La gestione tecnica dei sistemi informatizzati: dati anonimi e pseudoanonimi (Roberto Patscot)

Abbiamo visto nel paragrafo che precede come i big data giudiziari, se trattati con strumenti di intelligenza artificiale, siano potenzialmente in grado di generare conoscenze ulteriori rispetto ai dati singoli. Ciò implica un’attenta analisi dei confini “proprietari” di tali dati.

La collocazione dei dati giudiziari in sistemi informatici impone, innanzitutto, la non semplice opera di cogliere l’effettiva consistenza della proiezione digitale dei poteri esercitati dai soggetti istituzionali su tali dati. Le informazioni giudiziarie digitali, pur connotate da tratti di apparente volatilità, rimangono, difatti, oggetto delle potestà appositamente disegnate dal legislatore in ragione delle peculiarità dell’attività giudiziaria.

La gestione dei dati giudiziari attraverso server e tecnologie telematiche non può dunque far dimenticare che in tale ambito vanno replicati informaticamente i perimetri materiali e giuridici delle competenze strumentali al principio di indipendenza della magistratura garantito dalla costituzione.

La traslazione dei dati giudiziari nel mondo dei codici binari digitali ne muta solo la morfologia, ma non la loro natura di dati identificativi connessi alle vicende penali di competenza dell’autorità giudiziaria.

Al D.M. 24 maggio 2012, n. 102 (Regolamento concernente la tipologia e le modalità di estrazione, raccolta e trasmissione dei dati statistici dell'Amministrazione) è stato affidato il delicato compito di comporre la possibile tensione tra le prerogative costituzionali della magistratura ed il potere del ministero della giustizia di acquisizione dei dati statistici funzionali all'organizzazione ed al funzionamento dei servizi relativi alla giustizia di cui all’art. 110 della Costituzione.

Secondo il citato D.M. i dati e le informazioni trattati nell'ambito delle attività giurisdizionali ed amministrative del ministero della giustizia costituiscono dati statistici e gli uffici giudiziari ed amministrativi hanno l'obbligo di fornire i dati richiesti, tuttavia, quest’ultimi sono forniti in forma anonima nei casi previsti dall'articolo 4, comma 1, lettere d) ed e), del decreto legislativo 30 giugno 2003, n. 196, cioè nei casi di dati sensibili e dati giudiziari (cfr. art. 4 del D.M. 24 maggio 2012 , n. 102).

L’art. 22, comma 2, del D.Lgs. 10 agosto 2018, n. 101 ha, inoltre, stabilito che, a decorrere dal 25 maggio 2018, le espressioni «dati sensibili» e «dati giudiziari» utilizzate ai sensi dell’articolo 4, comma 1, lettere d) ed e), del codice in materia di protezione dei dati personali, di cui al decreto legislativo n. 196 del 2003, ovunque ricorrano, si intendono riferite, rispettivamente, alle categorie particolari di dati di cui all’articolo 9 del Regolamento (UE) 2016/679 ed ai dati di cui all'articolo 10 del medesimo regolamento. Pertanto, i dati giudiziari, ai sensi del citato articolo 10, sono, secondo una definizione estremamente ampia, i dati personali “relativi alle condanne penali e ai reati o a connesse misure di sicurezza”.

Appare evidente che la normativa sopra esposta descrive un dato giudiziario “completo” che è nella titolarità del solo capo dell’ufficio giudiziario ed un dato giudiziario “interpolato” (ovvero anonimizzato) che, sotto forma di mero dato statistico, è nella titolarità del responsabile del sistema statistico del ministero della giustizia.

 

D’altronde, una regolamentazione della titolarità del dato giudiziario e della sua anonimizzazione che non individuasse il capo dell’ufficio giudiziario come il dominus esclusivo di tali prerogative sarebbe idonea, con tutta evidenza, a vanificare i divieti formali posti a tutela del segreto investigativo, collidendo con il principio di indipendenza della magistratura dal potere esecutivo di cui all’ art. 104 Cost.

Non può dubitarsi, infatti, che il profilo di maggiore delicatezza nell’ambito dei rapporti fra funzioni del ministero della giustizia e funzione giurisdizionale attiene proprio al limite del segreto d’indagine. Non a caso il consiglio superiore della magistratura ha individuato il segreto investigativo come il limite dell’attività di inchiesta ministeriale avente ad oggetto le indagini penali in corso (cfr. delibera C.S.M. del 24 luglio 2003).

Al responsabile per i sistemi informativi automatizzati è affidata la gestione tecnica del sistema statistico che è effettuata con i sistemi informatici del dominio giustizia i quali costituiscono l'infrastruttura tecnologica deputata alla raccolta, gestione, archiviazione, elaborazione e trasmissione dei dati statistici (art. 3 del D.M. 24 maggio 2012, n. 102).

Il luogo virtuale dei sistemi informatici dell’amministrazione giudiziaria diventa perciò il campo dove devono trovare il punto di equilibrio i diversi “poteri digitali” dello Stato e laddove i dati devono essere resi anonimi in maniera automatizzata senza più possibilità di riconnettere il dato palese ad un soggetto individuabile (altrimenti si avrebbe una semplice pseudoanonimizzazione che consentirebbe di risalire all’ individuo al quale il dato era originariamente attribuito).

In questa prospettiva un ruolo nodale spetta al responsabile per i sistemi informativi del dominio giustizia il quale è sia una sorta di depositario “bendato” del dato segreto (non potendo egli stesso conoscerne il contenuto non ostensibile), sia il garante delle procedure automatizzate.

Ancora una volta l’informatica viene chiamata a mimare digitalmente spazi e facoltà del mondo materiale, sicché la “separazione dei poteri digitali” diventa un nuovo canone secondo il quale declinare la tripartizione delle funzioni fondamentali dello Stato. Resta però un ineludibile interrogativo di fondo: i codici computazionali possono fedelmente riprodurre la “consistenza” giuridica degli oggetti materiali garantendo standard di segretezza istruttori assimilabili all’ effettiva detenzione dei dati? Non vi è dubbio che solo adeguati strumenti di intellegibilità dei sistemi e degli applicativi possono rendere effettive le proiezioni digitali dei poteri dello Stato, consentendo così ai loro titolari di guardare nel cuore delle macchine per verificare che sia realmente garantito lo spirito delle norme sulle quali si fondano tali poteri.

 

La statistica nei sistemi di valutazione della magistratura (Marco Bisogni)

L’attività del magistrato è agevolmente tracciabile dai sistemi informatici che lo stesso utilizza per lo svolgimento della sua attività professionale. Proprio attraverso l’interrogazione di tali sistemi viene estratta la statistica giudiziaria che è ormai diventata il perno attorno alla quale ruota l’organizzazione degli uffici giudicanti e requirenti.
L’importanza della statistica è, inoltre, ulteriormente aumenta con l’adozione del Piano Nazionale di Resistenza e Resilienza (PNRR) che impone agli uffici obiettivi di smaltimento particolarmente ambiziosi fino al 2026 (ovvero un abbattimento dell’arretrato civile del 65% in primo grado e del 55% in appello, entro la fine del 2024; un abbattimento dell’arretrato civile del 90%, in tutti i gradi di giudizio, entro la metà del 2026; una riduzione del 40% della durata dei procedimenti civili entro la metà del 2026; una riduzione del 25% della durata dei procedimenti penali entro la metà 2026).

I dati ricavati dalla statistica giudiziaria sono, dunque, utilizzati in quasi tutte le fasi di valutazione dell’attività del magistrato: a) valutazioni quadriennali; b) nomina e conferma dei dirigenti (anche questo profilo è stato ulteriormente valorizzato dal PNRR che ha previsto come il raggiungimento o mancato raggiungimento degli obiettivi previsti assumerà rilevanza nella valutazione dell’attività degli stessi dirigenti); c) procedimenti disciplinari.

Attualmente, nel settore penale, la statistica ruota attorno al Sicp − il programma di gestione dei registri informatici − e agli applicativi strettamente collegati (nel senso che attingono dalla stessa base dati): Consolle, Siris (e ora Ares).

Si tratta di applicativi afflitti da criticità significative, ma che sono in grado di fornire indicazioni per l’estrazione e la lavorazione di una statistica quantitativa ovvero di una statistica mirata all’asettica comparazione tra procedimenti sopravvenuti e procedimenti esauriti (anche individuando il c.d. disposition time particolarmente significativo nella prospettiva del PNRR).

La statistica quantitativa è, del resto, quella richiesta dalle principali griglie di rilevazione ministeriale ed è, altresì, quella massimamente utilizzata per giudicare sull’efficienza della gestione di un ufficio giudiziario.

 

L’enfatizzazione della rilevanza della statistica giudiziaria quantitativa e la sua valorizzazione nella carriera del magistrato contribuiscono alla creazione di un modello di giurisdizione molto attenta alla gestione numerica dei ruoli e non necessariamente orientata anche ad una valutazione della qualità del lavoro del magistrato (che spesso si manifesta attraverso atti intermedi non rilevati dagli applicativi e dalle griglie ministeriali).

Per modificare questo trend − che sembra inarrestabile e sul quale il PNRR ha imposto un’ulteriore accelerazione − è necessario immaginare e proporre anche una nuova e diversa tipologia di statistica (che gli statistici definiscono statistica qualitativa) e che potrebbe trovare attuazione proprio attraverso alcune delle linee di intervento dello stesso PNRR e segnatamente:

  • gestione delle banche dati e dei sistemi informatizzati - Il PNRR prevede la creazione di veri e propri data lake tanto nel settore civile quanto nel settore penale. Si tratta, dunque, di immaginare e costituire luoghi virtuali contenenti tutti i dati (strutturati e non) provenienti dall’intero flusso processuale e che, per loro natura, appaiono propedeutici a sistemi di interrogazione avanzati attraverso l’I.A.;
  • statistica giudiziaria avanzata – il PNRR prevede, inoltre, l’ideazione di sistemi di statistica avanzata sui processi penali e civili che - attingendo dai dati custoditi nel data lake – consentirebbero di immaginare nuovi e diversi sistemi di analisi del lavoro del magistrato in grado di proiettarsi oltre la mera valutazione del dato input/output con relativa indicazione della durata del procedimento.

 

 

Occorre, quindi, cogliere l’occasione per immaginare indicatori statistici diversi che, proprio attraverso sistemi di interrogazione intelligente, potrebbero essere adattati ad una misurazione anche qualitativa del lavoro del magistrato consentendo, almeno in parte, di sdrammatizzare il confronto con il mero dato numerico.

Nello specifico e con riferimento alle procure, ad esempio, una statistica più aderente al contenuto delle attività del pm imporrebbe:

  1. una valorizzazione delle attività del PM non necessariamente collegate all’attività definitoria del procedimento e non rilevate dal modello 313 della Consolle. Si tratta, per l’ufficio del pubblico ministero, di rilevare tra l’altro: la predisposizione di richieste e decreti di intercettazione e lo svolgimento di attività istruttoria diretta da parte del magistrato;
  2. una valorizzazione del peso del singolo fascicolo. Si tratta di un tema complesso al confine con i “carichi esigibili” o “sostenibili”, ma che potrebbe almeno essere introdotto per una valutazione della complessità dei fascicoli movimentati in un determinato periodo storico associando al numero dei procedimenti definiti anche il valore complessivo degli stessi;
  3. una valorizzazione ragionata degli esiti dibattimentali dell’attività del PM. Non si tratta, però (e come pure pare essere previsto dal disegno di legge AC 2681 “Deleghe al Governo per la riforma dell’ordinamento giudiziario” con gli emendamenti approvati dal Governo in data 11 febbraio 2022 – c.d. riforma Cartabia) di registrare lo statico dato delle assoluzioni correlate alle richieste di rinvio a giudizio, ma, più specificatamente, di intercettare la capacità del PM di istruire il procedimento dibattimentale e leggerne gli esiti nelle sue richieste finali al Tribunale.

 

Invero le emergenze delle indagini preliminari potrebbero, per moltissime fisiologiche ragioni (ritrattazione della P.O., modifica normativa, mutamento di un orientamento della Cassazione), non trovare conferma nel corso del successivo dibattimento: la professionalità del magistrato del Pubblico Ministero dovrebbe quindi misurarsi, prevalentemente, sulla corrispondenza delle richieste articolate in requisitoria con le conclusioni del Tribunale (e molto meno sul confronto rinvio a giudizio/condanna).

 

Prescindendo, comunque, dalle soluzioni che si ritengono adottabili deve essere chiaro che la difesa della qualità della giurisdizione passa anche attraverso la costruzione di modelli statistici idonei a misurare la peculiarità della professione di magistrato e non incentrati sul mero dato quantitativo. Il PNRR offre, da questo punto di vista, le risorse per immaginare banche dati ed algoritmi intelligenti in grado di intercettare anche dati qualitativi e non solo quantitativi ed è anche sulla realizzazione e sulla gestione delle banche dati e dei sistemi informatizzati che si gioca parte del futuro qualitativo della giurisdizione.

 

Considerazioni finali: la capacità espansiva dell’Intelligenza Artificiale e la necessità di tutelare la qualità della giurisdizione (Marco Bisogni e Roberto Patscot).

I paragrafi che precedono documentano come le nuove tecnologie stiano introducendo cambiamenti epocali nel mondo giudiziario.

I sistemi informatici utilizzati anche in questo settore hanno, invero, una capacità di espansione sempre più significativa proponendosi come veri e propri formanti giudiziari in grado trasformare, più o meno surrettiziamente, il lavoro quotidiano del magistrato (si è già visto come estrattori statistici improntati a dati meramente quantitativi indurranno il giudice verso un’elevata produttività anche a potenziale discapito della qualità del lavoro giudiziario – supra paragrafo precedente).

Parimenti, la tentazione di riconoscere sempre maggiori spazi all’I.A. (anche nei profili inerenti alla fase decisoria in senso stretto) fonda sulla convinzione che sia possibile ridurre (presunte) disparità di trattamento e aumentare la prevedibilità delle decisioni giudiziarie.

Invero le decisioni umane (giudiziarie, ma non solo) sono affette da «bias» (errore) e «rumore» (Daniel KAHNEMAM, Oliver SIBONY, Cass. R. SUNSTEIN– Rumore: un difetto del ragionamento umano, 2021): il primo dipende da un difetto di valutazione strutturale correlato all’incapacità di giungere alla decisione corretta in un determinato contesto (condanna o assoluzione); il secondo è collegato all’interferenza di elementi esterni alla decisione che ne alterano in maniera più o meno consapevole l’esito finale (es. determinazione della pena da infliggere per una rapina da parte di un giudice che è stato recentemente vittima di analogo reato).

 

L’I.A., da questo punto di vista, prospetta la possibilità di decisioni che eliminino qualunque interferenza esterna alla decisione selezionando solo i fattori che debbano essere effettivamente valutati per raggiungere alla definizione del procedimento. Partendo proprio dal presupposto che sia “inaccettabile che persone condannate per lo stesso reato ricevano sentenze drasticamente diverse” (ancora Daniel KAHNEMAM – Rumore: un difetto del ragionamento umano, cit., p. 17) gli algoritmi si propongono, dunque, come strumenti per realizzare una reale uguaglianza del singolo innanzi alla legge.

L’I.A., inoltre e grazie alla capacità di interrogare banche dati (strutturate e non), promette di raggiungere elevate capacità predittive degli esiti delle decisioni giudiziali riducendo potenzialmente l’accesso al contenzioso e garantendo, così, una maggiore certezza del diritto.

 

Tutti questi profili – particolarmente suggestivi – sono, tuttavia, portatori di enormi potenziali criticità correlate, da una parte, alla difficoltà di adattare gli algoritmi alla necessaria unicità della decisione in ambito giudiziario (connessa – specie nel penale – anche a valutazioni di natura soggettiva che restano estranee ai percorsi algoritmici) e, dall’altra, alla potenziale involuzione della capacità adattativa della giurisprudenza che, chiusa nel recinto della predittività, potrebbe degenerare verso un’inaccettabile conformismo giudiziario.

Il sistema giudiziario si trova – dunque e per la prima volta nella storia - di fronte alla concreta possibilità di una concorrenza tecnologica che si presenta come particolarmente insidiosa.

 

Di fronte alla complessità delle trasformazioni in atto, è necessario interpretarne le linee evolutive tentando di governare il cambiamento, ribaltando i paradigmi fin qui seguiti che hanno visto gli operatori del diritto sostanzialmente passivi rispetto alle innovazioni tecnologiche (per lo più immaginate e imposte dall’esterno).

In quest’ottica appare dunque necessario che:

  • gli algoritmi giudiziari siano realmente conoscibili e spiegabili e, ove i programmi utilizzati nei processi telematici si affidino a decisioni meccanizzate, tali decisioni debbano essere compiutamente intellegibili nei loro presupposti giuridici;
  • i sistemi garantiscano sempre la possibilità che le decisioni umane – adeguatamente motivate – possano superare quelle meccanizzate;
  • la predittività fondata sull’analisi dei precedenti giudiziari non favorisca il conformismo giudiziario, circostanza possibile soltanto mantenendo una giurisdizione di elevata qualità gestita da un corpo professionale che non sia schiacciato dalla quantità degli affari (e che sia così in grado di resistere alla “forza” persuasiva del precedente quando è necessario superarlo);
  • la programmazione e la gestione degli applicativi divenga materia anche per l’Autogoverno della magistratura che deve acquisire la competenza tecnica per comprendere le ricadute giudiziarie delle scelte tecnologiche adottate in ambito ministeriale.

 

Nella celebre ucronia “Macchine come me” Ian MCEWAN, nel descrivere il complesso rapporto di un’intelligenza artificiale con una coppia di conviventi, osserva: “L'elettronica e l'antropologia: lontane parenti che la recente modernità ha avvicinato fino a unirle in matrimonio”. Orbene nel settore giudiziario occorre vigilare affinché l’antropologia non risulti – nell’unione con l’elettronica - una parte soccombente del rapporto.

 

Leggi dopo