Il contesto
L’utilizzo di sistemi di intelligenza artificiale da parte delle pubbliche amministrazioni, intese in senso sostanziale, presuppone anzitutto la soluzione di un problema preliminare: quello relativo alle modalità di approvvigionamento delle tecnologie necessarie.
Il tema del public procurement assume, pertanto, un rilievo centrale. Allo stato, infatti, appare difficilmente ipotizzabile che la generalità delle amministrazioni sia in grado di sviluppare autonomamente sistemi di intelligenza artificiale. Più frequentemente, esse saranno chiamate ad acquisire sul mercato soluzioni sviluppate da operatori economici privati, assumendo così, secondo le categorie impiegate dalla normativa europea, prevalentemente il ruolo di utilizzatori, o deployer, dei sistemi.
La scelta di ricorrere al mercato non esaurisce, tuttavia, la responsabilità dell’amministrazione. Al contrario, proprio l’acquisizione di tecnologie sviluppate da soggetti esterni rende necessario predisporre strumenti idonei a garantire che il sistema acquistato sia conforme alla normativa, risponda effettivamente al fabbisogno pubblico e possa essere governato, controllato e, ove necessario, corretto nel corso del suo utilizzo.
La riflessione si colloca in un quadro regolatorio particolarmente articolato. Tra le fonti maggiormente rilevanti possono richiamarsi il Regolamento (UE) 2024/1689 (“AI Act”), la legge 23 settembre 2025, n. 132, il decreto legislativo 31 marzo 2023, n. 36, recante il Codice dei contratti pubblici, nonché le Linee guida dell’Agenzia per l’Italia digitale (“AgID”) per il procurement di sistemi di intelligenza artificiale nella pubblica amministrazione, adottate in bozza con determinazione n. 43/2026.
Già dalla sola considerazione delle fonti applicabili emerge come il procurement di sistemi di intelligenza artificiale si collochi all’intersezione tra due discipline che, in tale ambito, devono essere lette in termini necessariamente complementari: da un lato, la normativa in materia di contratti pubblici; dall’altro, quella specificamente dedicata alla progettazione, alla commercializzazione e all’utilizzo dei sistemi di intelligenza artificiale.
Il Codice dei contratti pubblici disciplina il procedimento attraverso il quale l’amministrazione individua il proprio fabbisogno, seleziona l’operatore economico e definisce le prestazioni contrattuali. La normativa sull’intelligenza artificiale, invece, individua requisiti, obblighi e responsabilità collegati alle caratteristiche e alle modalità di impiego del sistema. Le due discipline convergono, dunque, nella documentazione di gara e nel contratto, che rappresentano gli strumenti mediante i quali gli obblighi regolatori vengono tradotti in specifiche tecniche, condizioni di partecipazione, criteri di valutazione e obbligazioni concretamente esigibili nei confronti del fornitore.
Principali rischi e possibili garanzie
Le disposizioni contenute nelle fonti richiamate mostrano come il procurement di sistemi di intelligenza artificiale debba essere adeguatamente governato durante tutte le fasi del ciclo di vita del contratto. Un’attenzione particolare deve, tuttavia, essere riservata alle fasi “iniziali” della programmazione, della progettazione e dell’affidamento.
Si tratta, infatti, dei momenti (in particolare, nel caso delle prime due fasi) nei quali l’amministrazione definisce il proprio fabbisogno, individua la finalità per la quale il sistema sarà utilizzato, valuta l’effettiva necessità di ricorrere a una soluzione algoritmica e stabilisce le caratteristiche tecniche e funzionali della prestazione richiesta. In queste fasi vengono inoltre disciplinati l’accesso e l’utilizzo dei dati, gli obblighi di documentazione, trasparenza e audit, la distribuzione delle responsabilità tra amministrazione e fornitore, nonché le modalità di supervisione umana del sistema.
La qualità della documentazione di gara incide, pertanto, in misura determinante sulla futura conformità del sistema acquistato. Una definizione generica o incompleta dell’oggetto dell’affidamento rischia di trasferire sul fornitore scelte che dovrebbero rimanere nella disponibilità dell’amministrazione, limitando la capacità di quest’ultima di comprendere il funzionamento del sistema e di controllarne gli effetti.
Il primo profilo problematico riguarda, quindi, la corretta individuazione del fabbisogno e dell’oggetto dell’affidamento. L’amministrazione dovrebbe chiarire preventivamente quale attività intende automatizzare o supportare e quale grado di autonomia può essere riconosciuto al sistema. Dovrebbero essere evitate formulazioni eccessivamente ampie, fondate su un generico richiamo al sistema di intelligenza artificiale, privilegiando invece l’individuazione di prestazioni, risultati attesi, limiti operativi e indicatori di qualità verificabili.
Una particolare attenzione deve essere dedicata ai dati utilizzati per l’addestramento, la validazione e il funzionamento del sistema. La documentazione di gara dovrebbe specificarne la provenienza, la qualità, l’aggiornamento e la rappresentatività, disciplinando altresì i diritti di accesso, utilizzo, conservazione e restituzione. Dovrebbero inoltre essere previsti obblighi informativi in capo al fornitore, soprattutto con riferimento alle modifiche dei dataset, del modello o delle modalità di funzionamento che possano incidere sulle prestazioni e sui rischi del sistema.
La stazione appaltante non dovrà, peraltro, considerare soltanto la disciplina specifica dell’intelligenza artificiale. Dovranno essere valutati anche gli obblighi derivanti dalla normativa in materia di protezione dei dati personali, sicurezza informatica, accessibilità, conservazione documentale e continuità operativa. L’acquisto e il funzionamento di sistemi di intelligenza artificiale dipendono, infatti, spesso da infrastrutture digitali, servizi cloud e articolate catene di fornitura ICT.
In tale prospettiva assume rilievo anche la proposta di revisione del Cybersecurity Act, comunemente indicata come CSA2, attualmente in corso di approvazione a livello europeo. La proposta mira, tra l’altro, a rafforzare la sicurezza delle catene di fornitura ICT e potrebbe incidere anche sulle condizioni di partecipazione degli operatori economici di Paesi terzi alle procedure di affidamento europee. Il profilo della sicurezza della catena di fornitura dovrebbe, quindi, essere considerato già in sede di progettazione della gara, verificando la localizzazione delle infrastrutture, l’impiego di subfornitori, le dipendenze da componenti esterne e le condizioni di accesso ai dati da parte di soggetti terzi.
Un secondo rischio riguarda il cosiddetto lock-in tecnologico, ossia la dipendenza dell’amministrazione da un determinato fornitore o da una specifica soluzione proprietaria. Tale dipendenza può derivare dall’assenza di interoperabilità, dalla difficoltà di trasferire dati e configurazioni a un diverso operatore o dalla mancata disponibilità delle informazioni necessarie per comprendere e governare il funzionamento del sistema.
Per limitare questo rischio, la documentazione di gara dovrebbe prevedere requisiti di interoperabilità e portabilità, l’utilizzo di standard aperti, ove possibile, nonché specifici obblighi di collaborazione in caso di cessazione del rapporto contrattuale o subentro di un nuovo fornitore. Dovrebbero essere disciplinati anche la restituzione dei dati, la trasferibilità delle configurazioni, la disponibilità della documentazione tecnica e i limiti all’utilizzo di componenti proprietarie non sostituibili.
L’esigenza di evitare il lock-in non comporta necessariamente la completa disclosure del codice sorgente o di ogni informazione riservata del fornitore. Impone, tuttavia, che l’amministrazione disponga di un livello di conoscenza e di accesso alle informazioni sufficiente a controllare il sistema, verificarne le prestazioni, accertare eventuali anomalie e garantire la continuità del servizio pubblico.
Un terzo profilo riguarda la predisposizione di adeguate garanzie di supervisione umana, monitoraggio e correzione degli errori. La supervisione non dovrebbe essere prevista in termini meramente formali, mediante la generica presenza di un operatore umano. Occorre, invece, individuare soggetti dotati di competenze, poteri e informazioni adeguati per comprendere l’output del sistema, verificarne l’attendibilità e, ove necessario, non applicarlo, sospenderne l’utilizzo o richiederne la revisione.
Il contratto dovrebbe inoltre disciplinare le modalità di monitoraggio successivo all’affidamento, prevedendo indicatori di performance, controlli periodici, obblighi di segnalazione degli incidenti e procedure per la gestione degli errori. Particolare rilevanza assume la possibilità per l’amministrazione di verificare il sistema anche nel corso dell’esecuzione, attraverso audit, test, accesso alla documentazione e obblighi di cooperazione del fornitore.
Dovrebbero essere previste clausole specifiche anche per il caso in cui il sistema sia modificato, aggiornato o riaddestrato durante il rapporto contrattuale. Tali interventi potrebbero, infatti, alterarne il funzionamento, il livello di rischio o la conformità rispetto alle condizioni originariamente valutate. Il fornitore dovrebbe quindi essere tenuto a comunicare preventivamente le modifiche rilevanti e l’amministrazione dovrebbe poter valutare se esse richiedano nuove verifiche, misure di mitigazione o una revisione delle condizioni di utilizzo.
Conclusioni a caldo
La centralità del public procurement deriva dalla circostanza che una parte significativa delle garanzie richieste dalla normativa sull’intelligenza artificiale deve essere concretamente costruita prima ancora che il sistema venga utilizzato, nelle primissime fasi del ciclo di vita dei contratti pubblici. È in questi momenti, difatti, che si definisce il livello di controllo pubblico sulla tecnologia.
La conformità normativa del sistema non può, quindi essere considerata una caratteristica da verificare soltanto al momento dell’esecuzione del contratto. Essa deve diventare parte integrante dell’oggetto dell’affidamento e tradursi in requisiti tecnici, obblighi informativi, poteri di controllo, clausole di responsabilità e strumenti di tutela applicabili durante l’intera esecuzione del contratto.
In questa prospettiva, l’amministrazione deve definire puntualmente sia i presidi giuridici nonché i requisiti tecnici specifici.
L’obiettivo dovrebbe essere quello di verificare in che modo i principi e gli obblighi derivanti dalla normativa europea e nazionale possano essere tradotti in regole contrattuali effettive, con particolare riguardo alla definizione del fabbisogno, alla qualità e alla governance dei dati, alla sicurezza delle catene di fornitura, alla prevenzione del lock-in tecnologico, alla trasparenza, all’auditabilità e alla supervisione umana.
In termini più ampi, pertanto, si può evidenziare che il procurement non rappresenta, pertanto, un passaggio meramente strumentale all’introduzione dell’intelligenza artificiale nel settore pubblico. Esso costituisce uno dei principali strumenti attraverso i quali l’amministrazione può governare l’innovazione tecnologica, preservando la propria autonomia decisionale e assicurando che l’impiego dei sistemi di intelligenza artificiale rimanga coerente con i principi di legalità, buon andamento, imparzialità, trasparenza e tutela dei diritti.
