- Il rischio non è quale modello scegli: è che nessuno sa chi usa cosa, con quali dati e con quali permessi.
- La governance non la scopri quando progetti. La scopri dopo l’incidente, che è il momento più caro.
- Per gli agenti in produzione contano tre controlli: accessi a privilegio minimo, human-in-the-loop, audit trail ispezionabile.
- Vietare l’AI non è governance: la spingi solo nell’ombra. Governare è incanalare.
- I 15 controlli, in 6 domini, ti dicono in due minuti quanto sei scoperto.
Tre domande a cui non sai rispondere con precisione
Prova a rispondere, ora. Quante AI diverse stanno toccando i dati della tua azienda? Chi le usa, da quali account, con quali permessi? Se la risposta non è precisa, non hai un problema di modello. Hai un problema di governance.
Non è teoria. Il 97% delle aziende colpite da una violazione legata all’AI non aveva nemmeno i controlli di accesso di base[1], e il 63% non ha una policy di governance dell’AI, o la sta ancora «scrivendo».[1] Intanto quasi 3 account su 4 usati per l’AI al lavoro sono personali, fuori da ogni controllo aziendale.[2]
La governance dell’AI non la scopri quando progetti. La scopri dopo l’incidente.
Il fronte si è spostato dal modello al controllo
Con l’AI, scrivere codice e muovere dati non è più il collo di bottiglia. Lo è il controllo. Un agente in produzione non si limita a rispondere: legge, decide, agisce. E se nessuno ha deciso cosa può leggere, cosa può fare e chi approva, l’autonomia diventa la tua superficie di rischio.
È il motivo per cui Gartner stima che oltre il 40% dei progetti di agentic AI verrà cancellato entro il 2027, anche per controlli di rischio inadeguati.[3] Non perché i modelli siano deboli (il 95% dei pilot di AI generativa non porta comunque un ritorno misurabile[4]): perché la governance arriva dopo, quando l’incidente l’ha già trovata.
Quanto sei scoperto, adesso
Spunta i controlli che hai già in produzione. Quelli che restano vuoti sono i punti da cui entra un incidente. Alla fine scarichi il PDF, senza lasciare un’email, e lo fai girare al team.
AI in produzione: i 15 controlli
Spunta i controlli che hai già in produzione. Quelli che restano vuoti sono i punti da cui entra un incidente. Niente login: scarichi il PDF e lo fai girare al team.
Non governi ciò che non vedi. Quasi 3 account su 4 usati per l’AI al lavoro sono personali, fuori dai controlli aziendali (Cyberhaven).
Il codice sorgente è tra i dati sensibili che più spesso finiscono dentro un’AI. È esattamente quello che è successo a Samsung.
Il 97% delle aziende colpite da una violazione legata all’AI non aveva nemmeno i controlli di accesso di base (IBM, 2025).
Se rivedere costa quanto rifare, l’approvazione diventa un timbro automatico. Mostra all’umano a cosa stava reagendo l’agente, non solo cosa ha prodotto.
Senza traccia, l’incidente lo scopri dai clienti. Tardi e caro: lo shadow AI aggiunge in media 670.000 $ al costo di una violazione (IBM, 2025).
Oltre il 40% dei progetti di agentic AI verrà cancellato entro il 2027, anche per controlli di rischio inadeguati (Gartner).
Stai mandando l’AI in produzione bendato. Fermati e copri le basi prima di aggiungere altri agenti.
Sul piano normativo: dal 2 agosto 2026 valgono gli obblighi di trasparenza dell’EU AI Act, mentre quelli per i sistemi ad alto rischio sono rinviati al 2 dicembre 2027 (Digital Omnibus).[5] Ma la maggior parte di questi controlli conviene a prescindere dalla legge.
Tre mosse che coprono la maggior parte del rischio
Non serve un programma di compliance per partire. Tre interventi, in quest’ordine, tolgono la fetta più grande della superficie esposta.
- Inventario e identità: elenca le AI in uso e gli agenti, e dai a ognuno un’identità con permessi minimi. Niente chiavi condivise di un umano admin.
- Confini sui dati: una regola scritta su cosa può finire in un LLM, con i dati sensibili (clienti, codice, segreti) bloccati prima che escano.
- Human-in-the-loop dove conta: separa ciò che l’agente può leggere da ciò che può fare; le azioni irreversibili passano da un’approvazione umana rivedibile in un colpo d’occhio.
Vietare l’AI ai dipendenti è la mossa più stupida: la spingi solo nell’ombra. Governare è incanalare.
Vuoi questi controlli già dentro il tuo agente?
In una call mappiamo i tuoi agenti sui 6 domini e ti diciamo dove sei scoperto. Portiamo agenti dalla demo alla produzione, con la governance già dentro.
Le domande che ci fanno più spesso
Qual è la differenza tra governance dell’AI e governance degli agenti?
La governance dell’AI riguarda come le persone usano gli strumenti (shadow AI, quali dati, quali account, le policy). La governance degli agenti riguarda i sistemi che agiscono in autonomia in produzione: cosa possono leggere e cosa possono fare, chi approva le azioni, come ricostruisci cosa hanno fatto e perché. Per un CTO il rischio nuovo è soprattutto il secondo, perché un agente non si limita a rispondere: agisce.
Devo vietare gli strumenti AI al team?
No. È la mossa più controproducente: spingi l’uso nell’ombra e perdi ogni visibilità. La governance non serve a proibire, serve a incanalare: strumenti approvati, regole chiare, un canale ufficiale e account aziendali al posto di quelli personali. Così l’uso esce dall’ombra e diventa governabile.
L’EU AI Act mi obbliga davvero a fare tutto questo?
In parte. Dal 2 agosto 2026 valgono gli obblighi di trasparenza (dire all’utente quando interagisce con un’AI); gli obblighi per i sistemi ad alto rischio sono stati rinviati al 2 dicembre 2027 con il Digital Omnibus. Ma la maggior parte dei controlli della checklist conviene a prescindere dalla legge: riducono il rischio operativo, non solo quello normativo.
Da dove parte un CTO con poco tempo?
Dai tre controlli a maggior impatto: un’identità con permessi minimi per ogni agente, un confine scritto su quali dati possono finire in un LLM, e l’approvazione umana sulle azioni irreversibili. Coprono la fetta più grande della superficie di rischio. Il resto della checklist lo chiudi nelle settimane successive.
Questo articolo l’ho scritto io. L’analisi e l’esperienza sul campo sono mie e di Yempik. Per editing e impaginazione mi sono fatto aiutare da Claude. I numeri hanno una fonte, citata in fondo: la sostanza è mia, lo strumento è dichiarato.
Fonti
- [1]IBM, “Cost of a Data Breach 2025”: 97% delle violazioni AI senza controlli di accesso, 63% senza policy di governance, +670.000 $ con shadow AI. www.ibm.com
- [2]Cyberhaven: gran parte dell’uso dell’AI al lavoro passa da account personali; il codice sorgente è tra i dati sensibili più esposti. www.cyberhaven.com
- [3]Gartner: oltre il 40% dei progetti di agentic AI sarà cancellato entro fine 2027, anche per controlli di rischio inadeguati. www.gartner.com
- [4]MIT NANDA, “The GenAI Divide: State of AI in Business 2025”: il 95% dei pilot di AI generativa senza ritorno misurabile. fortune.com
- [5]EU Artificial Intelligence Act: categorie di rischio e obblighi di trasparenza; rinvio dei termini per l’alto rischio (Digital Omnibus). artificialintelligenceact.eu