Servizio
Progetto e sviluppo agenti LLM che lavorano in produzione, in banche, fintech e sanità. Uno di questi smista oltre 1 milione di ticket l'anno per l'help desk di una grande banca italiana, con l'81% di accuratezza contro il 75% degli operatori, e ha portato i tempi di risoluzione da 5–6 giorni a 2–3.
Fare la demo di un agente è facile. Costruirne uno che regga traffico, dati e regole di compliance reali è molto più difficile, e la maggior parte si ferma tra il prototipo e la produzione: nessuna valutazione, nessun controllo, costi che nessuno sa quantificare.
Ogni agente parte con un set di valutazione, un passaggio chiaro a una persona quando serve e il monitoraggio dei costi.
Python, FastAPI, LangChain, LangGraph, LiveKit; Azure OpenAI, OpenAI, Anthropic Claude, Gemini; Qdrant, Pinecone, ChromaDB; Kafka, Docker, Kubernetes, OpenShift; Azure, AWS, GCP. Se le regole di compliance lo richiedono, i modelli girano nel tuo tenant cloud UE.
Parti da un solo processo, ad alto volume e ben definito, di cui conosci già i numeri di oggi. Un agente si ripaga quando fa meglio di quei numeri su una metrica che misuri già, e la più convincente è l'accuratezza rispetto alle persone.
Un sistema in cui un LLM decide il passo successivo: classificare, cercare un'informazione, usare uno strumento o passare la mano a una persona. Un semplice chatbot si limita a generare testo. In produzione all'agente servono anche valutazione, controlli e log. Un esempio: un agente che smista oltre un milione di ticket bancari l'anno su più di 400 categorie.
Lo confronti con i numeri che hai già. L'agente per i ticket bancari è stato misurato contro lo smistamento manuale: 81% contro 75%. L'assistente moda usava una regola severa: una risposta contava solo se ogni articolo era giusto. Senza un riferimento e un set di valutazione, "funziona" non vuol dire niente.
Sì. Per i clienti bancari i modelli giravano su Azure OpenAI nell'ambiente cloud UE del cliente, i dati sensibili restavano fuori dai log e le pipeline erano rilasciate sulle piattaforme del cliente, OpenShift compreso.
Dipende dal perimetro e dalle integrazioni. Un agente ben delimitato può partire in fretta: quello vocale di IGEA era operativo in una clinica in 2 settimane. L'integrazione con i sistemi di una banca richiede più tempo, per le verifiche di sicurezza e compliance.
Quello che rispetta i vincoli del progetto. Ho portato in produzione soluzioni su Azure OpenAI, OpenAI, Anthropic Claude e Gemini. Quando le regole sui dati sono rigide, spesso conta più dove può girare il modello, e con quale contratto, che il punteggio nei benchmark.
Correlati
Prossimo passo
C'è un processo che porta via ore al tuo team? Vediamo se può gestirlo un agente.
Raccontami il processo. Lo definiamo in una call gratuita, poi una versione funzionante è operativa entro 10 giorni.
Prenota una call di analisi