Il contesto e la struttura delle Linee Guida
Il Regolamento (UE) 2024/1689 (“AI Act”) prevede obblighi significativi di governance, documentazione, trasparenza, supervisione umana e monitoraggio per i sistemi di IA qualificati come “ad alto rischio” ai sensi dell’art. 6. In tale contesto, la Commissione europea ha recentemente pubblicato e posto in consultazione pubblica una bozza di Linee Guida, adottate ai sensi dell’art. 6(5) AI Act, con l’obiettivo di supportare fornitori, deployer e autorità competenti nella classificazione del livello di rischio associato ai sistemi di IA.
Pur non avendo natura vincolante, le Linee Guida rappresentano il principale riferimento interpretativo oggi disponibile per effettuare tale classificazione e forniscono numerosi esempi pratici destinati a orientare l’applicazione delle disposizioni dell’AI Act.
L’art. 6 distingue due categorie di sistemi ad alto rischio. La prima comprende i sistemi di IA destinati a essere utilizzati come componenti di sicurezza di un prodotto, o che costituiscono essi stessi un prodotto disciplinato dalla normativa UE di armonizzazione elencata nell’Allegato I dell’AI Act, purché soggetti a valutazione della conformità da parte di terzi. La seconda riguarda invece i sistemi che rientrano in uno dei casi d’uso elencati nell’Allegato III, che include, tra gli altri, gli ambiti della biometria, dell’occupazione, dell’accesso a servizi essenziali (inclusi credit scoring e valutazione del rischio assicurativo), delle infrastrutture critiche, della migrazione e dell’amministrazione della giustizia.
Allegato I: la nozione di “componente di sicurezza”
Con riferimento ai sistemi disciplinati dall’Allegato I, uno dei chiarimenti più rilevanti forniti dalle Linee Guida riguarda la nozione di “componente di sicurezza” di cui all’art. 3, n. 14, AI Act, che opera in due scenari alternativi.
Il primo scenario è piuttosto intuitivo e riguarda i sistemi di IA destinati dal fornitore a svolgere una funzione di sicurezza, ossia a prevenire o mitigare rischi per la salute, la sicurezza delle persone o dei beni.
Il secondo scenario è meno scontato: un sistema di IA può qualificarsi come componente di sicurezza anche indipendentemente dalla finalità prevista dal fornitore, se il suo guasto o malfunzionamento – inclusi output errati, falsi negativi o classificazioni errate – può mettere in pericolo la salute e la sicurezza delle persone o dei beni nel contesto del prodotto.
La Commissione richiama, a titolo esemplificativo, sistemi impiegati nella gestione delle porte di un ascensore, nell’assistenza alla guida o nell’ottimizzazione del funzionamento di apparecchi domestici, laddove un malfunzionamento possa produrre conseguenze fisiche per le persone. Restano invece escluse le funzionalità meramente orientate all’efficienza operativa, all’ottimizzazione delle prestazioni o al miglioramento della qualità del servizio, quando un eventuale errore non comporti rischi per la sicurezza.
La “finalità prevista” e la responsabilità lungo la filiera dell’IA
Un tema centrale affrontato dalle Linee Guida riguarda la nozione di “finalità prevista”, definita dall’art. 3, n. 12 AI Act come l’uso per il quale il sistema è destinato dal fornitore, tenuto conto del contesto e delle condizioni di utilizzo descritti nella documentazione tecnica, nelle istruzioni d’uso e nei materiali commerciali che lo accompagnano.
Secondo la Commissione, la qualificazione di un sistema non dipende esclusivamente dalle sue caratteristiche tecniche, ma anche dal modo in cui il fornitore lo presenta sul mercato.
Le Linee Guida chiariscono che, qualora la documentazione contrattuale, le istruzioni d’uso, i materiali promozionali o la documentazione tecnica presentino il sistema come applicabile a una pluralità indifferenziata di contesti, senza delimitare in modo chiaro gli utilizzi consentiti o escludere concretamente gli impieghi ad alto rischio, la finalità prevista potrà ricomprendere anche tali utilizzi.
Particolarmente significativa è l’affermazione secondo cui una generica clausola contrattuale che vieti l’utilizzo del sistema per usi ad alto rischio non è, di per sé, sufficiente a escludere la qualificazione del sistema come “ad alto rischio”, qualora il posizionamento commerciale del prodotto o gli esempi d’uso forniti dal provider prevedano o promuovano di fatto tali usi.
Allegato III: i casi d’uso di maggiore interesse per le imprese
Sistemi utilizzati in ambito occupazionale
Tra le casistiche disciplinate dall’Allegato III, quelle relative all’ambito occupazionale assumono particolare rilevanza pratica per le imprese.
Le Linee guida chiariscono che sono classificati come ad alto rischio tutti i sistemi che influenzano apprezzabilmente il processo di selezione, anche senza determinarne direttamente l’esito.
Pertanto, rientrano nell’ambito dell’alto rischio, ad esempio, sistemi di job matching e ranking dei candidati, strumenti che attribuiscono punteggi o classificazioni durante il processo di selezione, sistemi di ricerca automatizzata di candidati su social network o database pubblici, nonché soluzioni di targeted job advertising che determinano quali utenti visualizzeranno determinate offerte di lavoro.
Analogo approccio viene adottato con riferimento alla gestione del rapporto di lavoro. Le Linee Guida confermano che devono essere qualificati ad alto rischio i sistemi utilizzati per assegnare incarichi, determinare priorità operative, monitorare le performance, influenzare valutazioni professionali o incidere su decisioni relative a promozioni, compensi o cessazioni del rapporto, in particolare quando tali attività si basano sull’elaborazione di indicatori comportamentali.
Inoltre, la Commissione precisa che il perimetro applicativo della casistica in discorso non è limitato ai lavoratori subordinati, ma può estendersi anche a lavoratori autonomi, professionisti, collaboratori e lavoratori delle piattaforme digitali.
Sistemi di valutazione creditizia
Le Linee Guida confermano un’interpretazione altrettanto ampia con riferimento ai sistemi utilizzati per la valutazione in ambito creditizio.
Secondo la Commissione, deve essere considerato ad alto rischio qualsiasi sistema di IA destinato a valutare l’affidabilità creditizia di persone fisiche o a determinare il merito di credito, anche quando il sistema persegua soltanto una di tali finalità.
Rientrano in tale categoria i sistemi che elaborano dati economici, patrimoniali o comportamentali per generare punteggi o valutazioni utilizzati nel processo decisionale relativo alla concessione del credito.
Sono invece esclusi i sistemi utilizzati esclusivamente per finalità di marketing, assistenza clienti o monitoraggio delle esposizioni successive alla concessione del credito, nonché quelli destinati alla sola rilevazione di frodi finanziarie, per i quali l’AI Act prevede una specifica eccezione.
Il meccanismo di “filtro” previsto dall’art. 6(3) AI Act
Le Linee Guida dedicano ampio spazio anche al meccanismo di esclusione previsto dall’art. 6(3) AI Act, che consente, in presenza di determinate condizioni, di escludere dalla categoria dei sistemi ad alto rischio applicazioni che, pur rientrando formalmente in uno dei casi d’uso dell’Allegato III, non influenzano materialmente l’esito del processo decisionale.
La Commissione richiama, a titolo esemplificativo, sistemi che svolgono compiti meramente preparatori, organizzativi o di supporto, quali la classificazione documentale, il riordino di informazioni o la fornitura di riferimenti normativi, senza formulare valutazioni sul caso concreto né incidere sul contenuto della decisione finale.
Le Linee Guida precisano tuttavia che il filtro non trova applicazione quando il sistema effettua attività di profilazione ai sensi del GDPR o quando opera all’interno di architetture più complesse i cui output contribuiscono in modo sostanziale a una decisione rilevante. Inoltre, viene ribadito che la mera presenza di supervisione umana (requisito imprescindibile previsto dallo stesso AI Act) non è idonea a escludere la classificazione come sistema ad alto rischio.
Tempistiche e prossimi passi
Le Linee Guida sono attualmente in consultazione pubblica, ma forniscono già indicazioni di notevole interesse per le organizzazioni impegnate nelle attività di adeguamento all’AI Act. Sul piano delle scadenze, le Linee Guida ricordano che i termini originariamente previsti dall’art. 113 AI Act sono stati posticipati dalla proposta di Regolamento Digital Omnibus, sul quale le istituzioni europee hanno trovato un accordo politico. In particolare, gli obblighi per i sistemi ad alto rischio classificati ai sensi dell’art. 6(2) (Allegato III) si applicheranno a decorrere dal 2 dicembre 2027, mentre quelli per i sistemi classificati ai sensi dell’art. 6(1) (Allegato I) dal 2 agosto 2028. Per i sistemi già immessi sul mercato o messi in servizio prima del 2 agosto 2026, l’AI Act troverà applicazione soltanto in caso di modifiche significative nella progettazione adottate successivamente a tale data.
In tale prospettiva, emerge la necessità di riesaminare con attenzione l’inventario dei sistemi di IA utilizzati, verificare la finalità prevista dichiarata dai fornitori – anche attraverso la documentazione tecnica e commerciale – e documentare adeguatamente le valutazioni effettuate nei casi di classificazione più complessa.
Infatti, per molte organizzazioni la principale sfida non sarà individuare i sistemi evidentemente ad alto rischio, bensì dimostrare, attraverso un’analisi strutturata e documentata, le ragioni per cui un determinato sistema non debba essere qualificato come tale.
