La frode è un problema di schemi, e l’IA è uno strumento per riconoscerli
I sistemi di rilevamento delle frodi basati su regole, l’approccio più diffuso fino a pochi anni fa, hanno una debolezza strutturale: rilevano solo i tipi di frode che qualcuno aveva previsto quando ha scritto le regole. La frode però si evolve. I truffatori imparano le regole e le aggirano. Le organizzazioni aggiungono altre regole, i falsi positivi aumentano, gli analisti non riescono a stare al passo e il ciclo ricomincia.
I modelli di machine learning per il rilevamento delle frodi affrontano il problema da un’altra prospettiva. Invece di codificare le regole di ciò che è fraudolento, apprendono gli schemi statistici di ciò che è normale e rilevano quando qualcosa se ne discosta in modo significativo. Questo approccio ha due vantaggi chiave: individua tipi di frode non previsti in modo esplicito e si adatta in automatico quando i comportamenti cambiano.
Le implementazioni nel settore finanziario e assicurativo riportano miglioramenti nel tasso di rilevamento delle frodi, con risultati che variano secondo il volume delle transazioni e la qualità dei dati storici, insieme a una riduzione dei falsi positivi, che nei sistemi basati su regole possono arrivare a costituire la grande maggioranza degli allarmi generati.
I tipi di frode in cui l’IA ha più impatto
Frodi nelle transazioni finanziarie: rilevamento in tempo reale di transazioni anomale, come acquisti in luoghi insoliti, schemi di spesa incoerenti con il profilo del cliente o una frequenza di transazioni incompatibile con un uso legittimo. I modelli operano in millisecondi per non rallentare le transazioni legittime.
Frodi nei sinistri assicurativi: analisi delle denunce per individuare incoerenze, come dichiarazioni che non concordano con dati esterni, andamenti delle richieste statisticamente insoliti o reti di frode organizzata in cui più richiedenti hanno legami nascosti.
Frodi nell’e-commerce: rilevamento di account falsi, uso fraudolento di mezzi di pagamento rubati, manipolazione delle recensioni, abuso delle politiche di reso. Ogni settore ha i propri schemi specifici.
Frodi interne: analisi del comportamento dei dipendenti con accesso a sistemi sensibili per rilevare accessi insoliti, trasferimenti anomali o comportamenti che indicano un conflitto di interessi.
Rilevamento in tempo reale e analisi batch
L’architettura del sistema di rilevamento dipende dal tipo di frode e dalla rapidità con cui deve arrivare la risposta:
Rilevamento in tempo reale: per le frodi sulle transazioni, il modello deve valutare ogni operazione in millisecondi e restituire un punteggio di rischio prima che la transazione venga autorizzata. Questo richiede un’architettura a bassa latenza, modelli ottimizzati per la velocità di inferenza e una gestione attenta dell’equilibrio tra precisione e velocità.
Analisi batch: per le frodi nei sinistri assicurativi, le frodi documentali o le frodi interne, l’analisi può svolgersi per lotti periodici (giornalieri, settimanali), senza bisogno di una risposta in tempo reale. Questa architettura è più semplice e consente modelli più complessi e spiegabili.
L’equilibrio tra rilevamento ed esperienza del cliente
Il rischio maggiore di un sistema di rilevamento troppo aggressivo non è tecnico: è l’impatto sull’esperienza dei clienti legittimi bloccati o sottoposti a verifiche senza motivo. I falsi positivi hanno un costo reale in termini di attrito nell’esperienza del cliente, risorse dell’assistenza clienti e perdita di fiducia.
Progettiamo i sistemi di rilevamento delle frodi tenendo conto esplicitamente di questo equilibrio, con soglie calibrate sul profilo di rischio specifico di ciascuna azienda e meccanismi di revisione umana che danno priorità ai casi di maggior valore e agli allarmi più affidabili.
Domande frequenti
Servono esempi storici di frode per addestrare il modello?
Dipende dall’approccio. I modelli supervisionati richiedono esempi etichettati di frodi reali. Se il volume storico di frodi rilevate è molto basso, i modelli non supervisionati di rilevamento delle anomalie possono essere un punto di partenza valido, perché apprendono gli schemi normali senza bisogno di etichette di frode esplicite. L’ideale è combinare i due approcci.
Come si gestisce il fatto che i truffatori si adattano al sistema?
Il monitoraggio continuo delle prestazioni del modello in produzione è essenziale. Quando emerge che nuovi schemi di frode vengono rilevati poco, il modello viene riaddestrato con i nuovi esempi. I sistemi più efficaci combinano i modelli di machine learning con un team di analisti che esamina i casi dubbi e alimenta il sistema con i nuovi schemi individuati.
Quali obblighi di legge esistono nell’UE per i sistemi decisionali automatizzati antifrode?
Il GDPR pone limiti alle decisioni interamente automatizzate che riguardano persone fisiche, compreso il diritto di ottenere l’intervento umano. Per le decisioni di blocco delle transazioni o di indagine antifrode che coinvolgono clienti privati, devono esistere un processo di revisione umana e un meccanismo di ricorso. La progettazione del sistema deve tenere conto di questi obblighi fin dall’inizio.