rg-dev

Wracamy po wakacjach z nowym sezonem!

Zapraszamy na 61. spotkanie grupy rg-dev!

=====================================================================

Maciej Rząsa - Machine Learning in Production. The Hidden Parts

Opis:
How much does it take to go from a shiny AI demo to a deployed application? Everyone's excited about new AI capabilities, but few talk about the engineering work required to use ML models in production. Getting this hidden part right is what separates successful AI projects from failed ones. In my talk I'll show what it takes to turn ML experiments into robust, scalable products.
At Chattermill we've spent over 10 years bringing ML to production. I'll share hard-won lessons on orchestration of a dozen self-hosted ML services. We've had to optimise the data flow, tame the unpredictability of LLMs at scale, and drive down both processing time and infrastructure costs. Have you ever thought that innocent retries could cost you hundreds of dollars?
You'll walk away with patterns to apply, traps to avoid, and methods to iterate faster, deliver more reliably, and scale the ML systems with confidence. Whether you are a developer, tech lead or architect, this talk will prepare you to ship real-world ML applications, not just experiments.

Bio:
Developer z ponad 10 latami doświadczenia. Pracuje w firmie Chattermill, gdzie zamienia eksperymenty i badania nad AI na rzeczywistość produkcyjnych aplikacji. Zwolennik zaglądania do środka abstrakcji, zainteresowany implementacją baz danych i systemami rozproszonymi. Ma dziwne hobby: pisze wyrażenia regularne z palca i dyskutuje o ich wydajności. Zwolennik dzielenia się wiedzą, po godzinach jest instruktorem na Politechnice Rzeszowskiej, udziela się na konferencjach i organizuje meetup.Mól książkowy, zapalony turysta i miłośnik historii (zapytajcie go o Napoleona)

=====================================================================

Patrycja Śliwiak - LLMs in Data Science Services: Finding Stability in Chaos (Without Going Broke)

Opis:
LLM-y otwierają ogromne możliwości, ale codzienna praca z nimi to często balansowanie między błyskawicznie uzyskanymi wynikami a kompletnym chaosem. W Data Science cykl research → PoC → produkcja wygląda zupełnie inaczej niż w klasycznym developmencie - nieprzewidywalność, brak uniwersalnych metryk i intuicyjne formułowanie zadań to norma, a nie wyjątek.
W trakcie talku poznasz praktyczne sposoby na zminimalizowanie nieprzewidywalności: jak maksymalnie wykorzystać inteligencję małych modeli, jak projektować structured output, który nie obniża jakości wyników, oraz czy temperature=0 rzeczywiście gwarantuje powtarzalność rezultatów.
Dowiesz się o codziennych pułapkach, kosztach i trikach, które pomagają znaleźć stabilność w chaosie i uzyskać jak najlepsze rezultaty w produkcyjnych systemach LLM.

Bio:
Po ukończeniu Inżynierii Systemów na Politechnice Wrocławskiej wyjechała do Londynu, gdzie po krótkim stażu na University College London dołączyła do Chattermill. Od 7 lat pracuje tam jako Lead Data Scientist, budując produkcyjne rozwiązania Natural Language Processing. Ukończyła MSc Artificial Intelligence na University of Bath, zgłębiając generatywne AI jeszcze przed erą GPT i publikując w Neurocomputing.
Wierzy, że najbardziej skuteczne pomysły w Data Science rodzą się na styku inżynierii i kreatywności. Na co dzień zajmuje się zamienianiem eksperymentów w działające systemy, a po godzinach - podróżuje, trenuje balet, a w Bieszczadach prowadzi agroturystykę.

=====================================================================

Partnerem spotkania jest: