LLM FinOps

Il vibe coding dà slancio; i token non monitorati portano a fatture fuori controllo. Quando l'85% dei team sfora i budget per l'IA, il costo non è un problema finanziario: è un difetto architetturale causato da contesti sovraccarichi, chiamate ridondanti ai tool e loop infiniti degli agenti.
In questa sessione analizzeremo come trattare le LLM FinOps come una disciplina ingegneristica attiva:

• Context Engineering contro il Token Bloat: disaccoppiare la conoscenza in un Context Catalog deterministico per eliminare l'overhead multi-hop e abbattere i costi delle query fino all'80%.
• Caching semantico e Smart Routing: azzerare i costi dei prompt ripetuti e delegare dinamicamente i task di routine dai modelli di frontiera agli SLM.
• Governance e Guardrail: utilizzare AI Gateway e circuit breaker locali per intercettare i loop non deterministici prima che esauriscano i crediti.
• Unit Economics e osservabilità: tracciare il costo per funzionalità (cost-per-capability) e lo stato di salute dei token direttamente nel workflow di sviluppo.

Unisciti a noi per scoprire come sostenere la velocità di sviluppo mantenendo i costi di inferenza prevedibili e pronti per la produzione.

🎙️Speaker
Alessio Bertazzo - Senior Principal Engineer @ Mia-Platform
Software Engineer con solide radici nello sviluppo backend Java e Spring/Spring Boot, attualmente ricopre la posizione di Senior Principal Engineer nel team di ricerca e sviluppo di Mia-Platform. In questo ruolo, aiuta a definire la visione tecnica e strategica dei prodotti, colma il divario tra la divisione Prodotto e gli altri reparti aziendali e promuove l'innovazione con una forte attenzione all'intelligenza artificiale generativa.

📝 Agenda

• 18.15: Accesso e Networking (iniziamo a conoscerci!)
• 18:30: Welcome
• 18:45: Talk
• 19:30: Q&A
• 19:45: Pizza and drinks

Nessun meetup è completo senza un momento conviviale. Durante la serata saranno offerte bevande, birra e pizza per facilitare il networking e continuare le discussioni in modo informale.

⚠️ Nota importante: I posti sono limitati per garantire la qualità della conversazione durante la tavola rotonda. Assicurati di fare RSVP il prima possibile!
Ti aspettiamo per dare forma insieme al futuro dello sviluppo software!