Quando un’azienda inizia a usare strumenti di IA, una delle prime domande da porsi è: quali dati stiamo inviando fuori dall’azienda, a chi e a quali condizioni?
La domanda è più complessa di quanto sembri, perché i dati circolano in modi non sempre evidenti. Un dipendente che copia e incolla il contratto di un cliente in ChatGPT per farlo riassumere sta inviando informazioni riservate ai server di OpenAI. Un sistema di assistenza clienti basato su un modello linguistico esterno elabora conversazioni con dati personali dei clienti su sistemi di terzi.
Questo articolo illustra i rischi concreti, come valutarli e quali misure consentono di gestire la privacy senza bloccare l’adozione dell’IA.
I vettori di rischio per la privacy più frequenti
Uso di API di terzi con dati sensibili. La maggior parte degli strumenti di IA generativa attuali (ChatGPT, Claude, Gemini) funziona inviando i dati ai server del fornitore per elaborare la richiesta. Per dati non sensibili, come documentazione pubblica, testi generici o codice senza informazioni proprietarie, il rischio è basso. Per dati personali dei clienti, informazioni finanziarie riservate, dati sanitari o informazioni strategiche dell’azienda, occorre verificare se l’informativa privacy del fornitore è compatibile con il GDPR e con gli impegni di riservatezza dell’azienda.
Dati di addestramento che contengono informazioni personali. Se un’azienda sviluppa un proprio modello e lo addestra con dati storici dei clienti, si applicano gli obblighi del GDPR: base giuridica del trattamento, minimizzazione dei dati ed eventualmente pseudonimizzazione dei dati di addestramento per ridurre il rischio in caso di incidente.
Memorizzazione dei dati da parte dei modelli. I modelli linguistici di grandi dimensioni possono, in alcuni casi, «memorizzare» frammenti dei dati su cui sono stati addestrati e riprodurli nelle risposte. Per i fornitori di servizi di IA che addestrano i modelli con i dati degli utenti (cosa che le versioni aziendali di solito escludono per contratto), questo può diventare un canale di fuga di informazioni.
Log e conservazione delle conversazioni. Le piattaforme di IA di norma conservano le conversazioni per migliorare il servizio. Le versioni aziendali offrono opzioni di non conservazione. Per usi che coinvolgono dati sensibili è opportuno verificare che cosa conserva il fornitore e per quanto tempo.
Il GDPR applicato ai progetti di IA
Il GDPR non vieta l’uso di dati personali nei sistemi di IA. Stabilisce i principi e gli obblighi per farlo in modo legittimo.
Base giuridica. Il trattamento dei dati personali richiede una base giuridica. Le più frequenti in ambito aziendale sono l’esecuzione di un contratto (per i dati dei clienti necessari a erogare il servizio), il legittimo interesse (in alcuni casi di analisi interna) o il consenso esplicito.
Minimizzazione dei dati. Usare solo i dati strettamente necessari allo scopo del sistema. Se per prevedere l’abbandono dei clienti non servono il nome o l’indirizzo, addestrare il modello senza quei dati è la pratica corretta.
Trasparenza. Se il sistema di IA prende decisioni che riguardano persone (clienti, dipendenti), queste hanno il diritto di sapere che il sistema esiste e, in alcuni casi, di chiedere che le decisioni che le riguardano siano riesaminate da una persona.
Accordi sul trattamento dei dati. Quando si utilizzano servizi di terzi (API di IA, piattaforme cloud), vanno sottoscritti i relativi accordi sul trattamento dei dati (DPA), che garantiscono la conformità del fornitore al GDPR.
Le opzioni che riducono il rischio
Versioni aziendali degli strumenti. OpenAI, Anthropic e Google offrono versioni aziendali dei loro modelli con garanzie aggiuntive: i dati non vengono usati per addestrare modelli futuri, è possibile non conservare le conversazioni e sono disponibili gli accordi sul trattamento dei dati. Per le aziende che gestiscono dati sensibili, le versioni aziendali sono il punto di partenza.
Modelli open source installati in locale. Strumenti come Ollama o LM Studio consentono di eseguire modelli linguistici di alta capacità sull’infrastruttura dell’azienda, senza inviare dati a server esterni. Le prestazioni sono un po’ inferiori a quelle dei migliori modelli via API, ma per molti casi d’uso aziendali sono sufficienti e i dati restano interamente sotto il controllo dell’azienda.
Pseudonimizzazione e anonimizzazione dei dati di addestramento. Nei progetti che sviluppano modelli propri con dati dei clienti, la pseudonimizzazione, cioè la sostituzione degli identificativi diretti con codici, riduce il rischio in caso di incidente di sicurezza e può essere sufficiente per rispettare il principio di minimizzazione del GDPR.
Policy interna sull’uso dell’IA. Definire quali tipi di dati possono essere inviati a strumenti di IA esterni e quali no è una misura organizzativa che molte aziende stanno adottando. Una policy chiara evita che i dipendenti decidano individualmente quali dati sia opportuno condividere e con quali strumenti.
Domande frequenti
Occorre informare i clienti se si usa l’IA per trattare i loro dati? Dipende dall’uso. Se l’IA tratta dati personali dei clienti per prendere decisioni che li riguardano, la trasparenza è un obbligo previsto dal GDPR. Se l’IA viene usata per analisi interne che non incidono direttamente sui clienti, l’obbligo di informativa individuale non si applica necessariamente, anche se l’informativa privacy dell’azienda dovrebbe riportare l’uso dell’IA.
I modelli di IA open source sono sempre più sicuri dal punto di vista della privacy? Non necessariamente. La privacy dipende da dove e come vengono installati. Un modello open source eseguito su server cloud esterni presenta gli stessi rischi di uno proprietario. Il vantaggio in termini di privacy si ha quando il modello gira sull’infrastruttura dell’azienda.
L’AI Act aggiunge obblighi in materia di privacy? Sì, in particolare per i sistemi ad alto rischio, che hanno obblighi di governance dei dati complementari al GDPR: i dati di addestramento devono essere pertinenti, rappresentativi e privi di distorsioni inappropriate. Questi requisiti si aggiungono a quelli del GDPR, non li sostituiscono.