L’ingresso dell'intelligenza artificiale (IA) nelle aule di tribunale e nei dipartimenti di polizia non è più uno scenario da cinema fantascientifico, ma una realtà consolidata. Dalla valutazione del rischio di recidiva alla pianificazione del pattugliamento urbano (predictive policing), i sistemi algoritmici vengono presentati come strumenti neutrali, capaci di eliminare l'errore umano e la parzialità cognitiva dal processo decisionale.
Tuttavia, da una prospettiva criminologica rigorosa, questa presunta neutralità scientifica nasconde insidie profonde. Il rischio reale non è solo l'errore tecnologico in sé, ma la sistematizzazione e l'amplificazione dei pregiudizi storici sotto la rassicurante etichetta dell'oggettività matematica.
Il paradosso del dato storico: l'effetto specchio
Gli algoritmi di apprendimento automatico (machine learning) non creano regole dal nulla: vengono addestrati su enormi database storici. Se questi dati riflettono disparità sociali, decisioni di polizia discriminatorie o asimmetrie sistemiche del passato, l'algoritmo non farà altro che codificare e perpetuare tali ingiustizie.
Il principio "Garbage In, Garbage Out" (GIGO): Se inseriamo nel sistema dati distorti da decenni di politiche di sicurezza sbilanciate o da pregiudizi socio-economici, l'output generato dall'intelligenza artificiale sarà inevitabilmente discriminatorio, ma rivestito di un’aura di infallibilità tecnica.
Questo fenomeno genera un pericoloso loop di feedback auto-avverante:
La polizia pattuglia maggiormente i quartieri storicamente marginalizzati perché i dati mostrano un tasso di criminalità più alto.
Di conseguenza, si registrano più arresti in quelle aree.
I nuovi dati di arresto vengono inseriti nell'algoritmo.
L'algoritmo suggerisce di pattugliare ancora di più quegli stessi quartieri, ignorando del tutto i reati "invisibili" (come quelli finanziari o dei colletti bianchi) commessi altrove.
Un confronto necessario: Bias Umano vs. Bias Algoritmico
Per comprendere la portata della sfida, è utile mappare le differenze strutturali tra le distorsioni del giudizio umano e quelle prodotte dai sistemi automatizzati:
| Dimensione | Bias Umano (Giudice/Inquirente) | Bias Algoritmico (Software di IA) |
| Origine | Pregiudizi cognitivi, stanchezza, fattori culturali individuali. | Dati storici distorti, criteri di ottimizzazione errati. |
| Scalabilità | Limitata. L'errore del singolo giudice impatta solo su specifici casi. | Massiva. Un singolo errore nel codice o nel dataset si applica a migliaia di casi. |
| Rilevabilità | Relativamente alta attraverso l'appello, il dibattimento e il contraddittorio. | Bassissima. I sistemi spesso operano come "scatole nere" (black box) proprietarie. |
| Percezione Sociale | Soggetta a scetticismo e critica sociale. | Accettata passivamente come verità scientifica ("sciovinismo computazionale"). |
La "Scatola Nera" e la crisi del Giusto Processo
Uno dei nodi più critici per la criminologia e la filosofia del diritto è la mancanza di trasparenza dei sistemi di valutazione del rischio (come il noto software statunitense COMPAS, utilizzato per stimare la probabilità di recidiva).
Molti di questi software sono protetti da segreto commerciale. Ciò significa che né gli avvocati della difesa, né i giudici, né gli stessi imputati possono esaminare il codice sorgente o comprendere quali pesi specifici l'algoritmo abbia attribuito a variabili sensibili (come lo stato sociale, il livello di istruzione dei genitori o la residenza) per giungere a un determinato punteggio di pericolosità.
Questo scenario mina alla base i pilastri del giusto processo:
Il diritto alla difesa: Come si può contestare un'accusa o una valutazione di pericolosità se non si conoscono i criteri logici con cui è stata formulata?
L'individualizzazione della pena: La criminologia moderna insegna che la pena deve essere calibrata sull'individuo e sul fatto concreto. L'algoritmo, al contrario, ragiona per correlazioni statistiche di gruppo, riducendo la persona a una mera percentuale di rischio.
Conclusioni: Verso una Criminologia Algoritmica di Frontiera
L'intelligenza artificiale non deve essere respinta a priori, ma governata con gli strumenti della criminologia critica e del diritto costituzionale. Non possiamo permettere che la tecnologia diventi un paravento dietro cui nascondere le responsabilità etiche e politiche delle decisioni penali.
Per evitare che la giustizia predittiva si trasformi in una nuova forma di discriminazione scientificamente legittimata, sono urgenti tre passaggi chiave:
Sottoporre gli algoritmi ad audit indipendenti: I software utilizzati nello spazio giudiziario devono essere open-source o comunque accessibili per verifiche di conformità etica e costituzionale.
Affermare il principio del "Human-in-the-loop": Nessuna decisione limitativa della libertà personale deve essere delegata esclusivamente a una macchina. L'IA deve rimanere un supporto consultivo, mai decisionale.
Aggiornare la formazione criminologica: È essenziale formare una nuova classe di giuristi e criminologi capaci di dialogare con i data scientist, decodificando la complessa interazione tra codice binario e devianza sociale.
Solo governando attivamente la transizione digitale potremo evitare che i tribunali del futuro si trasformino in freddi laboratori di calcolo statistico, dove l'uguaglianza formale di fronte alla legge viene sacrificata sull'altare dell'efficienza computazionale.
