AI Act: la responsabilità civile dei sistemi decisionali autonomi

L’inquadramento sistematico tra dogmatica e nuovo ordine eurounitario

Il superamento del paradigma deterministico e l’emersione della società algoritmica

L’avvento della cosiddetta società algoritmica non si esaurisce in una mera accelerazione tecnologica, ma impone una torsione strutturale delle categorie attraverso cui l’ordinamento imputa le conseguenze dell’agire. Il nucleo della problematica scaturisce dall’abbandono del software tradizionale in favore di modelli di apprendimento automatico capaci di manifestare una propria autonomia operativa ed esecutiva. Questa transizione verso l’elaborazione probabilistica incide sulla radice stessa dell’imputazione, costringendo la dottrina a delineare i confini per la responsabilità civile dei sistemi decisionali autonomi dinanzi a macchine che generano effetti vincolanti senza un controllo preventivo costante.

Nel tentativo di sistematizzare questa inedita fenomenologia, una parte autorevole della dottrina propone di rivedere il rigido antropocentrismo giuridico. Teubner, attingendo alla sociologia della scienza, suggerisce di inquadrare i sistemi operanti in autonomia come attanti, ovvero enti che, pur privi di natura umana, partecipano attivamente alla rete delle relazioni sociali, scambiando proprietà e orientando i risultati decisionali¹. L’estensione di tale paradigma ai processori non umani permetterebbe di ricomprendere le intelligenze artificiali entro ecosistemi giuridici ibridi, in cui il peso delle scelte viene spalmato sulle interazioni della rete sociotecnica, piuttosto che ricercato esclusivamente nella singola condotta dell’operatore.

A tale prospettiva si contrappone un orientamento di segno restrittivo, il quale riafferma la funzione meramente strumentale della tecnologia. Floridi e Sanders, pur rilevando l’elevata sofisticazione delle nuove architetture, negano in radice l’ipotesi di una soggettività algoritmica autonoma, osservando come la macchina difetti ontologicamente di intenzionalità e di una volontà formata in modo indipendente². Ne discende che ogni disfunzione lesiva cagionata dal sistema debba essere inesorabilmente ascritta alla sfera di progettazione della persona fisica, riassorbendo la pretesa autonomia della macchina entro i confini dell’utensile avanzato.

La perdurante oscillazione tra questi due poli ermeneutici conferma come l’istituzionalizzazione dell’intelligenza artificiale esiga la ricerca di nuovi equilibri. Come rilevano Fontana e Barbuzzi, l’ingresso di simili entità nelle dinamiche negoziali decostruisce le tradizionali categorie del diritto civile, imponendo soluzioni normative non più differibili per la gestione del rischio algoritmico³. Proprio per governare tale faglia sistematica, il legislatore europeo è intervenuto con una disciplina organica, nel tentativo di ricondurre l’opacità dei nuovi agenti sotto l’egida di un rigoroso approccio precauzionale.

L’assetto normativo dell’AI Act: approccio basato sul rischio e qualificazione dei sistemi

Il tentativo di imbrigliare la forza espansiva delle architetture computazionali ha trovato la sua principale concretizzazione nel Regolamento (UE) 2024/1689, noto come AI Act. Abbandonando la logica della regolamentazione flessibile, il legislatore eurounitario ha strutturato un impianto normativo di tipo precauzionale, incardinato su un rigoroso approccio basato sul rischio. Questa precisa scelta di sistema si traduce in un meccanismo di qualificazione progressiva, dove il grado di opacità e di autonomia della macchina determina l’intensità del presidio giuridico richiesto per la sua immissione e circolazione nel mercato interno.

Al vertice della piramide regolamentare, l’articolo 5 del Regolamento colpisce con un divieto assoluto lo sviluppo e l’utilizzo di pratiche portatrici di un rischio inaccettabile. Rientrano in questa categoria i sistemi idonei a manipolare il comportamento umano attraverso tecniche subliminali, nonché gli strumenti di valutazione sociale o di estrazione indiscriminata di dati biometrici. L’intento è quello di neutralizzare alla radice le applicazioni tecnologiche che, operando al di fuori della percezione cosciente dell’individuo, minano l’integrità del processo volitivo e compromettono le garanzie essenziali della persona.

Il baricentro dogmatico della disciplina si rinviene, tuttavia, nella rigorosa regolamentazione dei sistemi classificati ad alto rischio, i quali abbracciano ambiti nevralgici quali l’accesso al credito, l’amministrazione della giustizia e la selezione del personale. Per tali strumenti, il legislatore europeo impone oneri preventivi di trasparenza, la documentazione analitica dei set di dati e meccanismi di tracciabilità continua. Sotto il profilo strettamente civilistico, la prescrizione centrale è l’obbligo di garantire una supervisione umana effettiva, codificata dall’articolo 14. Il principio della human oversight scolpisce il limite invalicabile dell’automazione, esigendo che l’infrastruttura, per quanto efficiente, non sottragga mai all’operatore la facoltà materiale e giuridica di sospendere o alterare il processo decisionale.

L’architettura eurounitaria si completa con le disposizioni riguardanti i modelli per finalità generali, tracciando le coordinate di un vero e proprio ordine pubblico tecnologico. Come rileva in proposito Raffiotta, esaminando i profili definitori del Regolamento, l’impianto normativo sancisce una gerarchia assiologica in cui lo sviluppo algoritmico resta subordinato alla tenuta dell’equilibrio democratico⁴. Questa cornice multilivello non esaurisce la propria efficacia nella mera armonizzazione del mercato, ma si riverbera immediatamente sul diritto interno, obbligando gli Stati membri ad avviare un’opera di adeguamento delle norme civilistiche e processuali per prevenire vuoti di tutela.

Il recepimento interno e il presidio antropocentrico

Il recepimento delle istanze eurounitarie ha trovato nel legislatore nazionale un interprete attento a preservare la centralità del soggetto fisico, culminando nell’adozione della Legge 23 settembre 2025, n. 132. L’intervento italiano non si limita a una passiva trasposizione del Regolamento, ma ne declina i principi operando una decisa opzione per il cosiddetto presidio antropocentrico. Tale scelta riflette la preoccupazione che l’automazione, se non governata, possa erodere quegli spazi di discrezionalità e valutazione equitativa che costituiscono il fulcro dell’attività giurisdizionale e professionale.

Sotto il profilo procedurale, assume rilievo dirimente l’articolo 17 della predetta legge, il quale novella l’ordinamento processuale attribuendo al Tribunale la competenza esclusiva per le controversie aventi ad oggetto il funzionamento dei sistemi di intelligenza artificiale. Tale disposizione sottrae la materia alla cognizione del giudice di pace, riconoscendo implicitamente la complessità tecnica che sottende alla ricostruzione del danno e all’accertamento della responsabilità civile dei sistemi decisionali autonomi. La centralizzazione del contenzioso risponde, dunque, all’esigenza di assicurare una risposta giudiziaria tecnicamente qualificata e dogmaticamente coerente dinanzi a fenomeni di opacità algoritmica.

Ancor più significativo appare l’articolo 15, il quale cristallizza il principio della riserva di umanità: ogni decisione che implichi la valutazione dei fatti e delle prove deve rimanere una prerogativa esclusiva e indelegabile del magistrato. Si delinea così un limite invalicabile alla delega tecnologica, volto a scongiurare che l’efficienza statistica possa sostituire la prudente valutazione del caso concreto. In questo quadro, il diritto interno si pone in linea con le riflessioni di Lazzini, per il quale l’intelligenza artificiale deve permanere nell’alveo della pura strumentalità, asservita agli interessi dei soggetti giuridici tradizionali e mai abilitata a una sostituzione volitiva integrale.

Questa impostazione nazionale, integrata dalle disposizioni del D.lgs. n. 103/2024 in ambito amministrativo, delinea un sistema in cui la trasparenza non è un mero requisito tecnico, ma una condizione di legittimità dell’azione automatizzata. La sfida che attende l’interprete risiede ora nel coordinare queste rigide barriere normative con la realtà di architetture computazionali che, per loro natura, tendono a una progressiva autonomia. Sarà compito della sezione tecnica, curata dal Dott. Ceci nel capitolo seguente, esplorare se e come la struttura stessa dei sistemi possa accogliere e rispettare siffatti vincoli giuridici.

Architetture computazionali e opacità dei sistemi autonomi

Reti neurali e modelli stocastici: la transizione verso il paradigma black box

Sul piano tecnico, il superamento del determinismo computazionale coincide con la transizione da architetture basate su regole esplicite (rule-based systems) a modelli di Machine Learning (ML) basati su su modelli probabilistico-statistici. In un sistema deterministico classico, l’applicazione di una funzione definita a un dato input produce un output invariabile e analiticamente tracciabile. Per converso, le architetture di Deep Learning (DL) adottano un paradigma in cui le regole di classificazione e decisione non sono pre-codificate, ma vengono apprese autonomamente dal sistema durante la fase di addestramento (training phase), attraverso l’ottimizzazione iterativa di un set di parametri numerici.

L’architettura tipica di una rete neurale artificiale (Artificial Neural Network, ANN) si articola su multipli livelli di elaborazione: un livello di ingresso, molteplici livelli nascosti (hidden layers) e un livello di uscita. Ciascun nodo all’interno della rete calcola una somma pesata degli input ricevuti dal livello precedente e vi applica una funzione di attivazione non lineare per determinare l’output da propagare. Di conseguenza, la logica decisionale del modello risulta distribuita su milioni, o miliardi, di connessioni sinaptiche, i cui valori (pesi e bias) vengono costantemente ricalibrati dall’algoritmo di retropropagazione dell’errore (backpropagation) al fine di minimizzare la funzione di perdita.

L’elevata dimensionalità dello spazio dei parametri e la natura non lineare delle trasformazioni intermedie generano il cosiddetto effetto black box. Sul piano operativo, l’architettura impone un severo tradeoff: all’aumentare delle performance predittive del modello e della sua capacità di processare dati non strutturati, decresce drasticamente la sua interpretabilità. Il sistema esegue un pattern matching algoritmico su scala massiva e restituisce un risultato statisticamente probabile, ma rende estremamente onerosa, e spesso solo parzialmente affidabile, la ricostruzione delle correlazioni interne che hanno condotto dallo specifico input all’output output decisionale.

Qualora il modello apprenda relazioni spurie o il dataset di partenza contenga distribuzioni statistiche asimmetriche, il sistema istanzia e propaga tali deviazioni sotto forma di bias algoritmico. In assenza di meccanismi di controllo endogeno, un’architettura opaca non fornisce, almeno nativamente, una rappresentazione human-readable pienamente idonea a giustificare il percorso inferenziale sotteso alla decisione assunta. Questa configurazione massimizza l’efficienza computazionale a scapito della verificabilità, esponendo una superficie d’attacco logica che rende ineseguibile, in assenza di moduli aggiuntivi, l’esercizio del controllo umano significativo richiesto dai nuovi standard regolatori.

Ambienti di esecuzione decentralizzata: protocolli di consenso e virtual machines

Sul piano architetturale, l’implementazione tecnica dei cosiddetti smart contract si discosta nettamente dai modelli stocastici, fondandosi su un paradigma strettamente deterministico. Un contratto intelligente consiste in un set di istruzioni compilate e in uno stato crittografico (state) istanziati (deployed) su un’infrastruttura peer-to-peer. Il sistema esegue il codice in risposta a transazioni firmate digitalmente, validando l’input e modificando lo stato globale del registro distribuito se e solo se l’esecuzione del bytecode si conclude senza sollevare eccezioni formali.

L’ambiente di esecuzione standard de facto è la Ethereum Virtual Machine (EVM). Dal punto di vista del modello computazionale, la EVM è una macchina a stati isolata (sandboxed) e basata su stack, progettata per azzerare l’interazione con i processi esterni. Durante l’elaborazione, il codice in esecuzione non ha alcun accesso alla rete, ai componenti hardware o al file system del nodo ospitante, prevenendo alterazioni esogene. Questo isolamento garantisce che il risultato dell’esecuzione sia matematicamente identico e riproducibile su ogni nodo partecipante, preservando l’integrità del registro di base.

Per superare i limiti prestazionali dell’EVM, i protocolli di livello 1 (Layer 1) di nuova generazione implementano ambienti basati su WebAssembly (WASM). Questo formato binario espone un’architettura più vicina a quella dell’hardware nativo, riducendo drasticamente l’overhead computazionale. L’adozione di WASM introduce tuttavia un tradeoff operativo: pur garantendo maggiore efficienza esecutiva e un throughput transazionale superiore, sacrifica parte della standardizzazione dell’ecosistema originario, aumentando la complessità di auditing, migrazione e interoperabilità tra ambienti eterogenei.

Indipendentemente dall’ambiente adottato, la peculiarità infrastrutturale di questi sistemi risiede nella loro assoluta inflessibilità semantica. Una volta effettuato il deployment, il codice non ammette varianti interpretative in fase di esecuzione: la macchina transisce automaticamente al nuovo stato qualora i parametri formali risultino soddisfatti. Qualsiasi difetto di implementazione (bug) o vulnerabilità logica diviene permanente e sfruttabile (exploitable) da un attaccante, poiché l’architettura, salvo specifici moduli di governance o meccanismi di upgrade introdotti a livello protocollare, non prevede nativamente procedure di rollback o invalidazione delle transazioni crittograficamente valide, ma prodotte da un’esecuzione non intesa.

Metodologie di mitigazione dell’opacità: verifica formale ed Explainable AI

A fronte delle criticità strutturali analizzate, l’ingegneria del software adotta metodologie distinte per limitare l’insorgenza di esecuzioni anomale. Negli ambienti di esecuzione decentralizzata, la mitigazione si concentra sulla verifica formale del codice. Questa tecnica consiste nell’applicazione di metodi matematici per dimostrare rigorosamente che il bytecode compilato soddisfa le specifiche architetturali dichiarate. Attraverso l’uso di linguaggi di specifica e di model checking, il sistema verifica l’assenza di race condition o deadlock. Tuttavia, la verifica formale risulta computazionalmente costosa e applicabile unicamente ai protocolli deterministici, non potendo arginare l’incertezza tipica dell’inferenza statistica.

Per i modelli stocastici, la riduzione dell’opacità è demandata alle tecniche di Explainable AI (XAI). Sul piano tecnico, occorre distinguere i modelli intrinsecamente interpretabili (come le regressioni lineari o gli alberi decisionali) dalle architetture complesse che richiedono metodologie di spiegabilità post-hoc. In quest’ultimo scenario, algoritmi come LIME (Local Interpretable Model-agnostic Explanations) o SHAP (SHapley Additive exPlanations) approssimano il comportamento locale della rete neurale mediante un modello surrogato più semplice, assegnando un peso specifico a ciascun input nel determinare l’output osservato.

L’implementazione di questi meccanismi introduce tuttavia un duplice tradeoff. In primo luogo, l’esecuzione di calcoli approssimativi genera un elevato overhead computazionale (O(2ⁿ) per il calcolo esatto dei valori di Shapley), penalizzando il throughput e la latenza del sistema. In secondo luogo, la spiegazione post-hoc consente di rappresentare correlazioni statistiche localmente rilevanti, senza tuttavia dimostrare che tali relazioni riflettano un effettivo nesso causale interno al modello. Tale discrepanza genera una nuova superficie d’attacco, permettendo a un attaccante di manipolare l’input affinché il modello mantenga la predizione inalterata ma restituisca una spiegazione ingannevole (adversarial explanation).

Sul piano tecnico, le soluzioni architetturali presentano limitazioni insuperabili. La garanzia crittografica della virtual machine non protegge dai difetti logici della programmazione, e le metriche di XAI offrono approssimazioni statistiche, non certezze deterministiche. L’architettura realizza la propria efficienza al costo di una residua fallibilità, elemento che assume rilievo nella successiva valutazione giuridica sull’adeguatezza delle misure cautelari adottate e sull’imputabilità degli eventi lesivi.

La formazione dell’accordo nell’automazione procedimentale

Volontà negoziale e smart contract: la crittografia come surrogato del consenso

La sussunzione del codice informatico entro le maglie del diritto delle obbligazioni disvela una tensione sistematica tra la rigidità dell’architettura decentralizzata e la plasticità dell’autonomia privata. Quando l’assetto di interessi viene cristallizzato in uno smart contract, la genesi del vincolo si fonde indissolubilmente con la sua stessa esecuzione. Il modello originariamente teorizzato da Szabo⁵ costringe l’interprete a verificare se la mera interazione crittografica possa integrare gli estremi del mutuo consenso richiesto dall’articolo 1326 del codice civile.

Nel paradigma tradizionale, l’accordo si perfeziona attraverso un incontro di volontà percepibile e ritrattabile fino alla conclusione. L’ambiente dei registri distribuiti, per converso, opera una codificazione automatica della pattuizione, subordinando l’obbligazione alla firma con chiave privata. Come osservano Fontana e Barbuzzi³, questa meccanica sposta il baricentro dalla fase trattatale alla cogenza esecutiva, riducendo drasticamente i margini di intervento correttivo sulle patologie genetiche del negozio.

La fermezza del bytecode inibisce l’operatività di istituti classici, quali l’annullamento per errore, poiché il protocollo non tollera valutazioni equitative né riconosce la rilevanza delle sopravvenienze. Se si ammette che l’utente accetti in blocco le regole deterministiche, la chiave crittografica cessa di essere un semplice strumento di autenticazione per assurgere a surrogato formale della volontà, assorbendo l’intento di vincolarsi.

L’equiparazione tra pacchetto informativo e accettazione non è tuttavia priva di aporie. Postulare che la sequenza esaurisca l’accordo implica imporre un consenso preventivo e incondizionato a qualsiasi esito algoritmico. Resta da sondare se l’ordinamento tolleri una simile spersonalizzazione, o se si debbano individuare argini invalicabili per impedire che l’infrastruttura tecnologica svuoti di tutela il contraente, tracciando linee che la Cassazione ha già iniziato a delineare.

L’ostacolo della materialità: il perimetro ricostruttivo tracciato in giurisprudenza

Il vaglio giurisprudenziale sulle modalità di perfezionamento del vincolo conferma la riluttanza dell’ordinamento ad abdicare ai propri presidi formali. La Corte di Cassazione, con l’ordinanza n. 25920/2019⁶, ha tracciato un confine netto rispetto alla smaterializzazione delle procedure negoziali, negando che il mero inserimento di dati in un terminale telematico possa validamente surrogare l’incontro delle volontà. La pronuncia interviene su una fattispecie in cui si pretendeva di ritenere concluso un contratto assicurativo per il solo fatto dell’acquisizione informatica della proposta, evidenziando le criticità insite nell’affidamento esclusivo alla piattaforma digitale.

I giudici di legittimità argomentano che le regole sul procedimento di formazione dell’accordo possiedono natura strumentale e non sono liberamente derogabili. Affidare la genesi del vincolo obbligatorio a schemi alternativi non codificati significherebbe sottrarre alla legge il controllo sulle modalità attraverso le quali l’impegno giuridico viene ad esistenza. La procedimentalizzazione codicistica assolve alla precisa funzione di accertare il consenso effettivo, tutelando la sfera patrimoniale delle parti da obbligazioni inavvertitamente generate dal sistema informatico.

Tale arresto pretorio proietta i propri effetti sull’operatività dei contratti intelligenti. Se la Suprema Corte esclude che una dichiarazione unilaterale possa validare un automatismo telematico in sostituzione della rituale accettazione, la transazione decentralizzata rischia di collidere frontalmente con i paradigmi tradizionali. La validità del negozio, qualora difetti dei requisiti legali di identificazione e di forma, rimane perennemente esposta alle azioni caducatorie, rendendo precaria la stabilità promessa dal codice sorgente.

La giurisprudenza riafferma così il primato della fattispecie legale sull’efficienza computazionale. L’impossibilità di delegare interamente il momento volitivo all’architettura software obbliga gli interpreti a ricercare nuovi schemi di qualificazione, capaci di conciliare il rigore del diritto vivente con le dinamiche operative della rete. Occorre pertanto esplorare l’utilizzabilità delle categorie della rappresentanza e dell’intermediazione, nel tentativo di colmare la distanza tra il fatto tecnologico e la norma.