Precedenti inesistenti, Intelligenza Artificiale e modelli Transformer nell'IA ACT

Negli ultimi anni l’Intelligenza Artificiale ha vissuto una trasformazione profonda grazie ai modelli basati su Transformer, un insieme di protocolli architetturali introdotti nel 2017 con il celebre articolo Attention is All You Need. Questi modelli hanno rivoluzionato il modo in cui le macchine imparano, comprendono e generano informazioni, aprendo la strada a sistemi più flessibili, potenti e generalistici di quanto fosse possibile con le architetture precedenti.

1. Cosa sono i protocolli Transformer?

Quando si parla di protocolli Transformer ci si riferisce all’insieme delle regole, delle strutture e dei meccanismi che definiscono il funzionamento di un modello basato su questa architettura. Essi stabiliscono come i dati vengono rappresentati, come l’informazione fluisce attraverso la rete e come il modello valuta le relazioni tra gli elementi di una sequenza. A differenza delle reti ricorrenti, che analizzavano le informazioni seguendo un ordine temporale rigido, i Transformer fanno affidamento su un paradigma più flessibile: l’attenzione, che permette di considerare simultaneamente tutti gli elementi di un input.

2. Il cuore dei Transformer: il meccanismo di attenzione

Il meccanismo di attenzione consente ai Transformer di pesare in modo dinamico le parti più importanti di una sequenza. Il modello, invece di seguire un percorso lineare, può concentrarsi su parole o elementi rilevanti anche se distanti tra loro. Questo approccio elimina le limitazioni delle architetture sequenziali tradizionali e permette di elaborare enormi quantità di dati in parallelo, riducendo drasticamente i tempi di addestramento. L’attenzione multi-head offre inoltre al modello diversi punti di vista sulla stessa sequenza, rendendo l’analisi più ricca e profonda.

3. Architettura: un protocollo modulare e scalabile

L’architettura dei Transformer è organizzata in blocchi ripetibili, composti da encoder e decoder che collaborano tra loro. L’encoder analizza il contenuto in ingresso e lo trasforma in una rappresentazione complessa, mentre il decoder utilizza tale rappresentazione per generare un output coerente. Questa struttura modulare si presta facilmente a essere adattata a compiti diversi: gli encoder possono essere isolati per la comprensione del testo, come accade nei modelli BERT, mentre i decoder possono funzionare autonomamente generando testo, come avviene nei modelli GPT. È proprio questa flessibilità ad aver reso l’architettura Transformer una piattaforma universale per l’AI moderna.

4. Perché i Transformer hanno cambiato l’Intelligenza Artificiale

L’avvento dei Transformer ha segnato una svolta epocale. Uno dei motivi principali risiede nella loro capacità di scalare verso modelli sempre più grandi senza cambiare struttura. Man mano che aumentano i dati e i parametri, i Transformer continuano a migliorare le proprie prestazioni, rendendo possibile l’esistenza dei grandi modelli linguistici attuali. Parallelamente, la loro natura multimodale permette di applicare gli stessi principi architetturali al testo, alle immagini, all’audio e persino al codice, trasformandoli in strumenti estremamente versatili.

Un aspetto particolarmente affascinante è rappresentato dalle capacità emergenti, quelle abilità che i modelli di grandi dimensioni sviluppano in modo spontaneo. Essi riescono, ad esempio, a comprendere istruzioni complesse, tradurre lingue senza un addestramento mirato o svolgere compiti logici articolati. Tutto questo è reso possibile dalla parallelizzazione dell’elaborazione: eliminando i vincoli sequenziali, i Transformer sfruttano appieno la potenza dei moderni cluster computazionali, raggiungendo livelli di efficienza irraggiungibili dalle architetture precedenti.

5. Applicazioni dei protocolli Transformer in AI

Le applicazioni dei Transformer sono oggi onnipresenti. Nel campo del linguaggio naturale costituiscono la base dei sistemi di traduzione, dei chatbot evoluti e degli algoritmi di riassunto e classificazione semantica. La loro capacità di comprendere il contesto li rende strumenti indispensabili per l’analisi automatica dei testi.

Nel campo della visione artificiale, i Transformer hanno introdotto un modo completamente nuovo di trattare le immagini.

I Vision Transformer hanno dimostrato che l’attenzione può sostituire efficacemente le reti convoluzionali tradizionali, offrendo maggiore flessibilità e capacità di generalizzazione. Anche i sistemi di generazione di immagini, oggi molto diffusi, integrano componenti Transformer per trasformare descrizioni testuali in contenuti visivi ricchi di dettagli.

L’impatto dei Transformer non si limita però a linguaggio e immagini. In bioinformatica hanno contribuito a progressi significativi come la predizione delle strutture proteiche; in robotica vengono impiegati per interpretare istruzioni e pianificare azioni; nel settore della programmazione assistono gli sviluppatori generando codice e individuando errori. La loro diffusione è tale che quasi ogni progresso recente nell’AI porta con sé, direttamente o indirettamente, una componente Transformer.

6. Limiti e sfide aperte

Nonostante il successo, i Transformer presentano anche limiti rilevanti. Il principale è il costo computazionale: modelli molto grandi richiedono risorse hardware notevoli e consumi energetici elevati. Questo limite diventa più grave quando si lavora con sequenze lunghe, in quanto il meccanismo di attenzione cresce in complessità con la lunghezza dell’input, rendendo l’elaborazione onerosa.

I Transformer soffrono anche del problema delle allucinazioni, ovvero la generazione di informazioni che sembrano plausibili ma non sono accurate. Ciò è dovuto al loro funzionamento statistico e alla mancanza di un vero sistema interno di verifica dei fatti.

7. PA e giustizia: il tema del “supporto decisionale tracciabile” nell’AI Act

La normativa europea sull’intelligenza artificiale dedica particolare attenzione all’uso dell’AI nella Pubblica Amministrazione e nel settore giudiziario, considerati ambiti ad alto rischio. In questi contesti, ogni suggerimento fornito dall’AI deve essere completamente trasparente, ricostruibile e verificabile. Il concetto di “supporto decisionale tracciabile” mira proprio a garantire che un giudice o un funzionario possa comprendere, motivare e assumersi la responsabilità del risultato finale, evitando che l’algoritmo diventi un decisore mascherato dietro la tecnologia.

Sulla necessaria trasparenza e neutralità dell'algoritmo (all'epoca quello più importante - Google) ne avevamo già parlato qui.

7.1. I rischi dell’uso dell’AI nel supporto decisionale dei giudici

L’introduzione dell’intelligenza artificiale all’interno del processo decisionale giudiziario comporta una serie di rischi significativi. Il primo riguarda la possibile opacità delle decisioni algoritmiche: i modelli, specialmente quelli basati su architetture complesse come i Transformer, elaborano informazioni tramite miliardi di parametri, rendendo difficile comprendere quali elementi abbiano realmente influenzato il risultato. In un ambito dove trasparenza e motivazione sono imprescindibili, questa opacità rischia di minare la legittimità del processo.

Un ulteriore rischio riguarda la riproduzione e amplificazione dei bias presenti nei dati di addestramento. Se un sistema viene addestrato su sentenze passate che riflettono discriminazioni storiche, esso tenderà a replicarle. Ciò può tradursi in suggerimenti distorti o ingiusti, compromettendo il principio di uguaglianza davanti alla legge.

A questi rischi si aggiunge la possibile deferenza all’algoritmo: i giudici potrebbero attribuire all’AI una falsa percezione di neutralità, riducendo la propria autonomia critica. Il problema si amplifica su larga scala: un errore sistemico potrebbe diffondersi su migliaia di procedimenti, generando conseguenze profonde.

Infine, la gestione di dati sensibili crea vulnerabilità legate alla sicurezza e alla privacy: eventuali attacchi o manipolazioni potrebbero compromettere la riservatezza di informazioni delicate.

7.2. I requisiti tecnici dell’AI Act per i sistemi ad alto rischio

L’AI Act stabilisce un insieme articolato di requisiti tecnici e organizzativi che devono essere rigorosamente rispettati da tutti i sistemi classificati come ad alto rischio. L’obiettivo è garantire che l’AI operi in modo trasparente, sicuro, non discriminatorio e pienamente controllabile dall’essere umano.

Uno dei requisiti fondamentali è la qualità dei dati, che devono essere accurati, rappresentativi e privi di distorsioni che possano condurre a decisioni discriminatorie. Ciò implica la necessità di verificare e documentare l’origine dei dati, le procedure di pulizia, le metodologie di bilanciamento e i controlli effettuati per prevenire bias sistematici.

Il regolamento richiede una documentazione completa del sistema, che includa descrizioni dettagliate del modello, dei suoi obiettivi, dei limiti operativi e dei potenziali rischi. Questa documentazione deve essere mantenuta aggiornata e resa accessibile alle autorità di vigilanza, affinché possano svolgere attività di ispezione o audit.

Un altro elemento chiave è la tracciabilità, resa possibile attraverso la registrazione costante delle operazioni dell’AI. Il sistema deve produrre log che permettano di ricostruire quali dati sono stati utilizzati in un determinato processo decisionale e quali passaggi computazionali hanno portato al risultato.

L’AI Act impone anche misure stringenti in materia di cybersecurity, per proteggere il sistema da manipolazioni esterne che potrebbero alterare i risultati. Infine, è prevista la necessità della supervisione umana continua, che garantisce che la decisione finale non sia mai delegata completamente all’algoritmo. L’essere umano deve poter intervenire, annullare o correggere qualsiasi suggerimento proveniente dall’AI, salvaguardando i principi dello Stato di diritto e della responsabilità individuale.

7.3. Transformer e settore giudiziario: perché la loro complessità aumenta i rischi

I modelli Transformer, pur essendo oggi tra i più potenti nel campo dell’intelligenza artificiale, presentano caratteristiche che possono amplificare i rischi legati al supporto decisionale in ambito giudiziario. La loro struttura, basata su miliardi di parametri e su meccanismi sofisticati di attenzione, li rende difficili da interpretare. Questa opacità tecnica crea un divario tra il funzionamento del modello e la capacità di spiegare in modo chiaro perché abbia generato una determinata raccomandazione. In un contesto come quello giudiziario, ciò rappresenta una criticità rilevante, poiché ogni decisione deve essere motivata e comprensibile.

Un ulteriore problema riguarda la sensibilità al bias dei dati. I Transformer apprendono correlazioni statistiche dai dataset su cui vengono addestrati; se tali dati contengono distorsioni, pregiudizi o rappresentazioni diseguali di gruppi sociali, il modello tenderà a riprodurli. Nel settore giudiziario questo può avere conseguenze molto gravi, poiché potrebbe influenzare valutazioni su rischio di recidiva, idoneità a misure alternative o credibilità delle testimonianze, con effetti discriminatori difficili da rilevare senza specifiche analisi.

La loro capacità di generare contenuti plausibili ma non necessariamente accurati introduce ulteriori rischi. Un modello Transformer può produrre testi che sembrano fondati o tecnicamente accurati, ma che contengono errori di fatto, collegamenti impropri o interpretazioni fuorvianti. Se tali contenuti venissero utilizzati come supporto nella redazione di sentenze, pareri o valutazioni preliminari, potrebbero introdurre elementi non verificati all’interno del procedimento.

Infine, la grande scala dei Transformer li rende più vulnerabili a problemi di sicurezza, come attacchi di avvelenamento dei dati o manipolazioni mirate. In un sistema che tratta informazioni sensibili, la sicurezza diventa un aspetto centrale: un attacco potrebbe compromettere la qualità delle raccomandazioni o alterare in modo subdolo i risultati, con conseguenze potenzialmente gravi per la giustizia e per i diritti delle persone coinvolte.

7.4. Il caso italiano dei precedenti inesistenti: l’intervento della Cassazione

Un episodio recente accaduto in Italia ha evidenziato con forza i rischi connessi all’uso improprio dell’intelligenza artificiale nella redazione degli atti giudiziari. Secondo quanto riportato da fonti giornalistiche e da un’analisi divenuta virale, una Corte d’Appello ( Cassazione penale sezione 3 con la sentenza numero 25455/2025 ) avrebbe citato nella motivazione di una sentenza penale alcuni precedenti giurisprudenziali inesistenti o riportati in modo errato.

La Corte di Cassazione, esaminando il ricorso e riscontrando l’assenza effettiva delle decisioni richiamate, ha annullato il provvedimento censurando esplicitamente l’utilizzo di richiami a principi “mai affermati” o a sentenze inesatte nel numero riportato.

Sebbene la Cassazione non abbia dichiarato formalmente che tali errori siano derivati dall’uso di strumenti di intelligenza artificiale, diverse analisi hanno ipotizzato che la formulazione delle motivazioni fosse stata almeno in parte generata o influenzata da un software di AI.

Tale ricostruzione nasce dalla natura dell’errore: i precedenti apparivano strutturati in modo plausibile, coerenti nello stile e nell’impostazione, ma completamente privi di riscontro nelle banche dati ufficiali, una dinamica che richiama il fenomeno delle “allucinazioni” tipiche dei modelli generativi.

L’episodio ha suscitato un ampio dibattito nella comunità giuridica italiana, poiché dimostra come l’utilizzo non controllato di strumenti di AI possa introdurre nel processo decisionale elementi fittizi o non verificabili, compromettendo la certezza del diritto e la correttezza formale della motivazione. Anche in assenza di una conferma ufficiale sull’origine dell’errore, il caso mette in evidenza l’urgenza di definire protocolli rigorosi per l’uso dell’AI nella giustizia, imponendo verifiche attente delle fonti e una responsabilità piena del magistrato nella valutazione di ogni citazione.