Governare un modello predittivo significa verificare che i suoi numeri restino validi. Governare l’IA generativa e gli agenti è un’altra cosa: qui il sistema scrive a nome dell’azienda ed esegue azioni sui suoi sistemi. Il rischio non è più un errore di stima, ma un’email inviata, un ordine creato o un dato uscito da dove non doveva.
È lo strato più recente e quello che si sta costruendo più in fretta, quasi sempre dopo che la tecnologia è già entrata in azienda.
Per prima cosa: ciò che sta già succedendo senza autorizzazione
Prima di scrivere qualsiasi policy conviene guardare la realtà. Nella maggior parte delle aziende ci sono persone che usano strumenti di IA generativa per conto proprio, con account personali, incollandovi documenti interni. Vietarlo con una circolare non funziona: lo rende solo invisibile. Una governance utile parte dall’offrire un canale autorizzato migliore di quello non ufficiale e dal misurare quanta attività passa per ciascuno dei due.
I sei controlli
Quali dati possono uscire e verso dove. Una classificazione minima (pubblico, interno, riservato, personale) e una regola esplicita su quale categoria può essere elaborata in quale servizio. Senza questo, nessuna policy si può applicare davvero.
Cosa può eseguire un agente. Inventario delle azioni consentite, permessi circoscritti e un confine chiaro tra ciò che l’agente fa da solo e ciò che richiede l’approvazione di una persona: pagare, cancellare, comunicare all’esterno. È la parte che si costruisce nell’harness.
Limiti di spesa. Un tetto per esecuzione e per giorno, con avviso. Un ciclo imprevisto può consumare in una notte il budget di un trimestre.
Tracciamento e conservazione. Cosa si registra di ogni interazione, per quanto tempo si conserva e chi può consultarlo. Senza tracce non c’è modo di indagare su un incidente né di rispondere a un reclamo.
Qualità misurata, non presunta. Un sistema generativo si degrada con un cambio di istruzioni o di modello, senza che nessuno tocchi il codice. La valutazione e l’osservabilità trasformano un «sembra funzionare» in un dato.
Trasparenza verso le persone. Quando si avvisa che si sta interagendo con un sistema, come si contrassegnano i contenuti generati e come si chiede una revisione umana. È un obbligo normativo e, prima ancora, una questione di fiducia.
Le differenze rispetto agli altri due strati
| Data governance | Governance del machine learning | Governance di IA generativa e agenti | |
|---|---|---|---|
| Domanda | Ciò che ho è affidabile? | Ciò che ne deduco è ancora valido? | Cosa sta dicendo e facendo a mio nome? |
| Rischio tipico | Decidere su dati sporchi | Modello in drift senza che nessuno se ne accorga | Fuga di informazioni e azioni indesiderate |
| Controllo chiave | Qualità, lineage e titolarità | Validazione, drift e riaddestramento | Permessi, limiti e tracciamento |
| Ritmo | Continuo | Per cicli di revisione | A ogni esecuzione |
Ciascuno strato poggia sul precedente: non esiste un agente affidabile su modelli non governati, né modelli affidabili su dati non governati.
Il collegamento con la normativa
L’AI Act dell’UE impone obblighi di trasparenza ai sistemi che interagiscono con le persone o generano contenuti, e obblighi molto più ampi se il sistema partecipa a decisioni ad alto rischio. A questo si aggiunge il GDPR non appena nel contesto entrano dati personali. Calendario e dettagli sono nella pagina su conformità e governance dell’IA.
Quando avviarla
Subito, se in azienda c’è un qualsiasi uso di IA generativa, autorizzato o meno, o un agente con accesso a sistemi reali. È l’unica delle tre governance che quasi mai può aspettare, perché il rischio non riguarda la precisione ma l’esposizione.
Può aspettare solo se l’uso è confinato a un pilota chiuso, senza dati reali e senza azioni sui sistemi.
Il nostro approccio
Partiamo dalla mappa dell’uso reale, compreso quello non autorizzato, e dalla classificazione minima dei dati, perché senza di essa il resto sono buone intenzioni. Poi definiamo il confine delle azioni e i limiti, e predisponiamo tracciamento e valutazione. La policy scritta si redige alla fine, quando si sa già che cosa si può rispettare davvero.
Domande frequenti
Basta una policy sull’uso dell’IA? No. Una policy che nessuno può applicare né verificare non cambia i comportamenti. Sono i controlli tecnici (cosa esce, cosa si esegue, cosa si registra) a sostenere la policy.
Bisogna vietare gli strumenti personali? Vietare senza alternative sposta l’uso dove non si vede. Funziona meglio offrire un canale autorizzato comodo e misurare la ripartizione tra i due.
Chi deve risponderne? Una persona della direzione, non solo dei sistemi informativi. Le decisioni su quali dati escono e cosa può fare un agente a nome dell’azienda sono decisioni di business e di rischio.