[AtlánticaLabs] Deploying a self-hosted Large Language Model (LLM)

Sergio Rúa

Nunha era na que a intelixencia artificial está a revolucionar o panorama dixital, atopámonos nun punto crítico. Aínda que a IA ofrece unha comodidade e eficiencia sen precedentes, tamén presenta novos retos para a privacidade e a seguridade dos datos.

Unha solución viable consiste en despregar un Large Language Model (LLM) auto‑aloxado dentro da túa organización, adestrado coas túas propias fontes de datos, dende PDFs ata logs.

Esta charla explorará a aplicación práctica dos principios de DevOps ao despregue e á xestión de Large Language Models auto‑aloxados (LLMs). Analizaremos cómo a automatización do ciclo de vida dos LLM —dende o aprovisionamento da infraestrutura ata a integración/despregue continuo (CI/CD) das actualizacións do modelo —permite ás organizacións integrar capacidades de IA de forma segura e escalable.
Aprende a crear entornos reproducibles, automatizar data pipelines e aproveitar tecnoloxías de containarización e orquestración para maximizar o valor dos LLMs mantendo a seguridade, o control e a gobernanza.

Sobre Sergio
Sergio é Enxeñeiro DevOps cunha sólida experiencia en consultoría con proxectos complexos e a gran escala. Ten fortes skills de programación, redes e outras áreas, pero destaca especialmente no mundo DevOps. É un apaixonado da automatización e de Kubernetes, e disfruta compartindo experiencias sobre como facer que a infraestrutura na nube sexa máis eficiente e fácil de xestionar.

-----------

Charlas e cañas
A parte de charlas de tecnoloxía, os Labs tamén queren ser punto de encontro da comunidade así que despóis da charla quedaremos a tomarlle unha grazas ao apoio incondicional de DEUS ♥

Qué son os Atlántica Labs by GPUL
Cos Atlántica Labs queremos recuperar o espírito dos antigos GPUL Labs, pero cun chisquiño da AtlánticaConf: o obxectivo é poñer o foco na tecnoloxía feita en Galicia ou por galegos/as, sempre con cariño polo software libre.
A idea é xuntarnos de cando en vez para compartir proxectos molóns, contar o que andamos facendo, aprender algo novo e, por suposto, tomar algo en boa compañía.
Se che mola a tecnoloxía libre e feita con xeito, este é o teu sitio.