LLMs bajo control: Guidance, Olive y ONNX Runtime
Details
¿Es suficiente con pedirle a un modelo mediante un prompt que responda siempre en JSON?
¿Qué ocurre cuando una aplicación necesita que determinados campos sean obligatorios, tengan un tipo concreto o solo puedan tomar ciertos valores?
En este workshop avanzado, Antonio Jesús García Palomo abordará estas preguntas mediante un caso práctico de inferencia local y generación restringida utilizando tecnologías del ecosistema Microsoft.
Partiremos de un modelo de la familia Phi y recorreremos un pipeline completo:
- Preparación y optimización del modelo con Microsoft Olive.
- Ejecución local mediante ONNX Runtime.
- Definición de un contrato estructurado con JSON Schema.
- Aplicación de constrained decoding con Guidance y LLGuidance.
- Integración del resultado dentro de una aplicación.
Durante los ejercicios compararemos tres estrategias para generar respuestas estructuradas:
- Pedir al modelo mediante prompting que respete una estructura.
- Generar la respuesta y validarla posteriormente.
- Aplicar restricciones durante la propia generación.
- Cada participante podrá diseñar su propio JSON Schema y experimentar con tipos, campos obligatorios, enumeraciones y restricciones.
También se abordará una distinción fundamental: controlar la estructura de una respuesta no garantiza que su contenido sea verdadero o correcto. El objetivo será comprender qué problemas puede resolver cada técnica y qué capas adicionales siguen siendo necesarias dentro de una arquitectura real.
Al finalizar, habremos construido un pipeline reproducible que combina un modelo de lenguaje, inferencia optimizada, un contrato estructurado y constrained decoding.
📅 Viernes, 13 de noviembre de 2026
🕕 18:00 h, horario peninsular español
🎙️ Con Antonio Jesús García Palomo
🧠 Nivel avanzado
🛠️ Formato workshop
Forma parte de AI Virtual Days 2026, el evento de Microsoft Speakers Hub en Español para aprender, experimentar y compartir alrededor de la inteligencia artificial.
