Caso studio
In una grande banca italiana un agente LLM costruito con Azure OpenAI, RAG e LangChain smista ogni anno oltre 1 milione di ticket dell'help desk interno su più di 400 categorie. Sceglie la categoria giusta nell'81% dei casi, contro il 75% degli operatori, e il tempo medio di risoluzione è sceso da 5–6 giorni a 2–3.
Ogni anno i dipendenti mandano all'help desk interno della banca più di un milione di richieste, scritte a parole loro. Ognuna va assegnata a una delle oltre 400 categorie di una gerarchia. A mano lo smistamento era lento e poco coerente: i ticket assegnati al gruppo sbagliato rimbalzavano tra i team e per risolverli servivano in media 5–6 giorni.
Un agente LLM legge la conversazione, recupera con la RAG le definizioni delle categorie pertinenti e assegna il ticket al nodo giusto della gerarchia. Ero tech lead di un team di 4 persone: coordinavo lo sviluppo e facevo da referente tecnico per la banca.
Se il tuo team smista richieste (ticket, email, pratiche) su centinaia di categorie, un agente LLM che consulta la tua tassonomia può sbagliare meno dello smistamento manuale. Un'assegnazione sbagliata costa giorni, quindi ogni punto di accuratezza in più si vede subito nei tempi di risoluzione. Per partire ti servono uno storico etichettato con cui misurare i risultati e un cloud già approvato dalla compliance.
In questo progetto sì. Su una gerarchia di oltre 400 categorie l'agente ha raggiunto l'81% di accuratezza, mentre lo smistamento manuale si fermava al 75%. Il merito è del retrieval: per ogni ticket l'agente recupera le definizioni delle categorie candidate, così non dipende da quello che il modello ricorda della tassonomia interna.
Questo sistema ne gestisce più di 400, organizzate in gerarchia, con oltre un milione di ticket l'anno. Metterle tutte in ogni prompt non è pratico, quindi la RAG recupera i rami pertinenti della tassonomia e il modello sceglie tra quelli.
Qui i modelli giravano su Azure OpenAI nell'ambiente cloud UE della banca e nessun dato sensibile finiva nei log. Con dati sensibili si parte da qui: il modello lavora dove i tuoi dati stanno già, con i contratti che la tua compliance ha già approvato.
Da quando l'agente è in produzione, il tempo medio di risoluzione è sceso da 5–6 giorni a 2–3. In un help desk gran parte del ritardo viene dai ticket che passano da un team sbagliato all'altro. Se il ticket arriva subito al team giusto, quel ritardo sparisce.
Azure OpenAI, retrieval-augmented generation, LangChain e LangGraph per l'orchestrazione, il tutto in un container Docker su Azure Functions. L'ha sviluppato un team di 4 persone e io ero il tech lead.
Correlati
Prossimo passo
Il tuo team smista ancora le richieste a mano? Capiamo insieme quali può instradare un agente.
Raccontami il processo. Lo definiamo in una call gratuita, poi una versione funzionante è operativa entro 10 giorni.
Prenota una call di analisi