Skip to content

Details

No te pierdas la ultima sesion de Grafana ❤️‍🔥 LLM Community!

LLMs en k8s: Análisis de los proyectos open-source vLLM y llm-d
⁠Ejecutar modelos de IA en kubernetes no es algo tan directo. Requiere consideraciones de diseño y ajuste de los modelos para conseguir escalar masivamente. En esta sesión exploraremos el enfoque de dos proyectos, uno para actuar como motor de inferencia y el otro para servirlos y generar el esquema de Model as a Service (MaaS). La gran ventaja de este enfoque es eliminar la dependencia tecnológica de compañías que cobran por tokens y en lugar de ello, armar todas las piezas del rompecabezas, logrando una real soberanía digital.

Daniel Penagos. Associate Principal Specialist Solution Architect - Cloud Services - Red Hat LATAM

En esta ocasion estaremos hablando acerca de la exploracion de Grafana, el servidor MCP y como poder conectar estas herramientas mediante un LLM, todo de forma opensource.

Esteremo tambien compartiendo una DEMO y detalles de esta configuracion de forma local y remota, para poder construir e interactuar con tus datos haciendo uso del LLM de preferencia.

Que cubriremos:
🔹 Grafana OSS
🔹 Servidor MCP de Grafana

Location: oficinas de redhat bogota

Related topics

Events in Bogotá, CO
Cloud Computing
Open Source
Software Development
Grafana
Observability

Sponsors

Grafana Labs

Grafana Labs

OSS is in our DNA

You may also like