LLMs bajo control: constrained decoding con Guidance, Olive y ONNX Runtime
Detalles
¿Es suficiente con pedirle a un LLM que responda en JSON? En este workshop práctico comprobaremos qué ocurre cuando una aplicación necesita una salida con campos obligatorios, tipos concretos y valores restringidos.
Trabajaremos con un modelo Phi, Microsoft Olive, ONNX Runtime, JSON Schema y Guidance/LLGuidance para comparar prompting, validación y constrained decoding. Los participantes construirán un pipeline reproducible de generación estructurada y aprenderán tanto las capacidades de estas técnicas como sus límites.
Temas relacionados
Community
Microsoft
Technology
