Uno dei principi fondamentali dell’AI Act è proprio la distinzione tra “Provider” e “Deployer”; e per analizzare meglio questa tematica studieremo il caso di un'azienda che scopre la differenza tra fornitore e utilizzatore di AI nel momento peggiore, cioè durante una gara pubblica. Dimostrando che "ne risponde anche chi l’intelligenza artificiale la usa, non solo chi la programma" è una realtà.
Però, per adattarsi al cambiamento, c’è ancora tempo (poco).
(Il caso è ricostruito e anonimizzato sulla base di dinamiche che stiamo osservando nelle gare pubbliche; le norme e le sanzioni citate sono tutte reali e verificabili)
Primo atto
Un'azienda italiana di medie dimensioni (chiamiamola Alfa) partecipa ad una gara pubblica per un servizio digitale. Lo fa da anni, conosce le procedure. Ma nel capitolato, questa volta, compare una richiesta nuova: “dichiarare la conformità all'AI Act per i sistemi di intelligenza artificiale impiegati nell'erogazione del servizio”.
Come anticipato nel numero zero #0: la conformità AI sta entrando proprio adesso nei requisiti di qualificazione.
In Alfa la risposta è immediata ed istintiva: "Noi non sviluppiamo intelligenza artificiale. Il modulo AI del nostro servizio lo compriamo da un fornitore esterno. La conformità è affare suo: chiediamogli una dichiarazione e alleghiamola."
È la risposta che darebbe la maggior parte delle aziende.
Ed è sbagliata due volte.
La regola che Alfa non conosceva
L'AI Act non assegna gli obblighi per settore o per dimensione d'impresa, bensì per ruolo. L'articolo 3 del regolamento definisce le due figure principali:
Provider (fornitore): chi sviluppa un sistema di AI, o lo fa sviluppare per proprio conto, e lo immette sul mercato o lo mette in servizio con il proprio nome o marchio.
Deployer (utilizzatore): chi utilizza un sistema di AI sotto la propria autorità nell'ambito di un'attività professionale. È la categoria più ampia e più sottovalutata: comprende quasi ogni azienda che oggi impiega un chatbot, un tool generativo, anche un semplice software di screening dei CV.
L'elemento decisivo non è aver scritto il “codice”, ma presentare il sistema al mercato come proprio.
Ed è qui il primo errore di Alfa… in più, anche se fosse un utilizzatore, questo ha obblighi propri, che nessuna dichiarazione del fornitore copre.
Informare le persone che interagiscono con un'AI, etichettare i contenuti generati su temi di interesse pubblico, usare il sistema secondo le istruzioni, garantire la sorveglianza umana dove richiesta… anche formare il personale (obbligo in vigore dal 2025, come ricordato nel #0).
Il regolamento attribuisce questi obblighi direttamente, in base a ciò che l'azienda fa nei fatti.
Ma il secondo errore è quello grave…
Secondo atto
Preparando la documentazione, il responsabile di Alfa ricostruisce come il modulo AI viene effettivamente impiegato. A questo punto il quadro che emerge è diverso da quello che tutti in azienda davano per scontato.
Il software del fornitore esterno è stato personalizzato dal team tecnico interno, è stato integrato nella piattaforma aziendale e, soprattutto, viene proposto ai clienti finali con il marchio di Alfa. Nel materiale commerciale, nelle demo, nel contratto di servizio, il nome del fornitore originario non compare mai…
Per il mercato, quel sistema è di Alfa. E per l'AI Act, questo è fondamentale.
Quando l'utilizzatore diventa fornitore… (il secondo errore)
L'articolo 25 del regolamento prevede che chi usa o distribuisce un sistema di AI ad alto rischio ne erediti gli obblighi da provider in tre situazioni:
1. Appone il proprio nome o marchio sul sistema. Il caso di Alfa, e il classico "white label": si acquista il motore da terzi e lo si propone come proprio. Per i clienti e per le autorità il provider diventa chi ci ha messo il marchio.
2. Apporta una modifica sostanziale al sistema, alterandone il funzionamento rispetto a quanto previsto dal fornitore originario.
3. Ne modifica la finalità d'uso, rendendolo ad alto rischio. Un tool generico di analisi testi impiegato per selezionare curricula: la selezione del personale è nell'Allegato III.
Nessuna di queste tre situazioni richiede una decisione formale o una firma. Alfa ha scoperto di essere diventata provider da una gara, non da una scelta.
E a poche settimane dalla scadenza, la differenza è concreta: la dichiarazione da rendere non è più "usiamo un sistema conforme di un terzo", ma comporta documentazione tecnica, ruoli da rinegoziare con il fornitore originario, responsabilità da assumere formalmente. Non solo per evitare una sanzione futura, ma anche per restare dentro la gara.
"Ma è tutto teorico, tanto non controllano"
No. E l'Italia lo ha già dimostrato, non ancora con l'AI Act, ma con le norme già in vigore.
Nel numero #0 vi abbiamo detto che il Garante Privacy mantiene la competenza sui dati personali, e infatti
Foodinho, 2021. Il Garante sanziona la società del gruppo Glovo con 2,6 milioni di euro per il trattamento illecito dei dati di circa 19.000 rider gestiti attraverso una piattaforma algoritmica: geolocalizzazione rilevata ogni 15 secondi, punteggi calcolati con formule che penalizzavano chi rifiutava gli ordini, informazioni ai lavoratori vaghe ed imprecise. L'Autorità ordina di verificare che gli algoritmi di prenotazione e assegnazione non producano discriminazioni, e concede 60 giorni per avviare le correzioni.
Deliveroo Italia, stesso anno. Sanzione di 2,5 milioni per il trattamento illecito dei dati di circa 8.000 rider e per la mancanza di trasparenza degli algoritmi di assegnazione degli ordini e prenotazione dei turni.
Foodinho, di nuovo, 2024. Qui la storia diventa emblematica. L'istruttoria parte dalle notizie di stampa sulla disattivazione automatica dell'account di un rider morto in un incidente stradale durante una consegna: il sistema lo aveva escluso senza che nessun essere umano intervenisse. Il Garante accerta che la piattaforma prendeva decisioni automatizzate senza garantire ai lavoratori il diritto di ottenere un intervento umano, esprimere la propria opinione, contestare la decisione, e che i dati di geolocalizzazione venivano raccolti anche quando il rider non lavorava e l'app era in background. Risultato: 5 milioni di euro di sanzione e il divieto di usare il riconoscimento facciale per verificare l'identità dei rider.
Il punto che riguarda il nostro discorso: quelle società usavano sistemi algoritmici. La responsabilità è ricaduta su di loro in quanto titolari dell'uso, non è stata deviata su chi aveva sviluppato la tecnologia.
Attenzione: quelle sanzioni sono arrivate sotto il GDPR, con categorie giuridiche diverse da quelle dell'AI Act, ma raccontano una cosa che il nuovo regolamento eredita per intero: in Italia, chi usa un algoritmo ne risponde, anche se l'ha sviluppato qualcun altro.
E ora guardate cosa fa l'AI Act: prende esattamente le mancanze contestate in quei provvedimenti, l'assenza di sorveglianza umana, l'impossibilità di contestare la decisione, l'opacità verso i lavoratori e le trasforma in obblighi formali e verificabili.
I sistemi di AI per la gestione dei lavoratori (selezione, assegnazione dei compiti, monitoraggio delle prestazioni) sono classificati ad alto rischio nell'Allegato III: gli adempimenti pieni scattano il 2 dicembre 2027, ma i ruoli si determinano oggi, ed è per questo che gare, banche e grandi clienti li chiedono nei questionari.
In più, per le aziende italiane, con la Legge 132/2025 e con l'integrazione al Modello 231, l'impresa risponde anche dell'uso che i dipendenti fanno degli strumenti di AI.
Terzo atto
La storia di Alfa non finisce con un'esclusione: finisce con settimane di lavoro in emergenza che una mappa da trenta minuti avrebbe evitato. Quella mappa è l'esercizio di questa settimana.
Primo: censite i sistemi di AI in azienda. Tutti: il chatbot del sito, i tool generativi, il software HR, gli strumenti adottati dai singoli reparti in autonomia…
Secondo: per ciascuno, tre domande. Lo abbiamo sviluppato noi o acquistato? Lo proponiamo a terzi con il nostro marchio? Lo usiamo per una finalità diversa da quella prevista dal fornitore?
Terzo: segnate i casi dubbi. Sono i punti in cui il ruolo può scivolare da utilizzatore a fornitore… ed è lì che vanno riletti i contratti, prima che a farlo sia una stazione appaltante o un cliente in due diligence.
Chi ha questa mappa risponde a un questionario di qualificazione in un'ora. Chi non ce l'ha diventa Alfa.
Precisazione
Qualcuno si starà chiedendo: "Ma se le sanzioni non sono ancora scattate, il caso di Alfa può succedere davvero?"
Sì, e la distinzione è il punto di tutto questo numero. L'AI Act è in vigore dall'agosto 2024: sono gli obblighi ad applicarsi in modo scaglionato. Ciò che arriverà con le scadenze sono le sanzioni: dal 2 agosto 2026 sulla trasparenza, dal 2 dicembre 2027 sull'alto rischio… Ma le stazioni appaltanti, le banche e i grandi clienti non aspettano l'enforcement: chiedono garanzie oggi, nei capitolati e nei questionari, per contratti che vivranno domani, e la Legge 132/2025, quella, è già pienamente operativa. Ecco perché il ruolo si determina adesso: il primo a chiedervi "Chi siete per l'AI Act?" non sarà per forza un'autorità di vigilanza, magari sarà un cliente...
Nel prossimo numero (#2)
Quando lo riceverete sarà il 23 luglio 2026, al 2 agosto mancheranno esattamente dieci giorni. Per questo sarà uno ”speciale”: cosa scatta esattamente quel giorno; obbligo per obbligo, chatbot, deepfake, testi generati, sanzioni, tutto quello che bisogna sapere.
In più una checklist di 10 verifiche per arrivare alla scadenza preparati.
Al prossimo giovedì,
Edoardo Rinaldi
Se avete un collega o siete in contatto con un imprenditore, una PMI o un’azienda a cui questo articolo può servire, inoltrate… e fate iscrivere.
Se avete una domanda, rispondete direttamente a questa e-mail o scrivete a: [email protected]