AI Gateway vs API Gateway vs MCP Gateway

En este meetup exploraremos cómo integrar y gobernar modelos de inteligencia artificial en arquitecturas modernas de contenedores utilizando AI Gateways.

Nos enfocaremos en Kong, analizando cómo desacoplar el consumo de LLMs de las aplicaciones, centralizar políticas de enrutamiento multi-proveedor, implementar rate limiting, observabilidad de tokens y controles de costos y seguridad en entornos productivos.

Qué cubriremos:

• Fundamentos de AI Gateways: Por qué la capa de inferencia necesita un gateway dedicado.
• Kong AI Gateway en acción: Enrutamiento inteligente entre LLMs, fallback automático y balanceo de carga.
• Gobierno y Control: Control de presupuesto/tokens, logging, autenticación y mitigación de prompt injection.
• Despliegue con Docker: Implementación práctica paso a paso en contenedores.

Un espacio de arquitectura, networking y mejores prácticas para ingenieros de software, SREs y arquitectos de nube de nuestra comunidad. ¡Te esperamos!