Adieu 2023 with MLOps Community

Adieu 2023 with MLOps Community
2023년 4월에 출발한 Seoul MLOps Community는 참여자들의 뜨거운 관심 덕분에 매 회차마다 다양한 분야의 구성원들이 모여 더욱 뜻깊은 커뮤니티를 만들어가고 있습니다. 세 번째 밋업에서는 커뮤니티의 성장 과정을 되돌아보고 앞으로의 계획을 소개할 예정입니다. 특히, 이번 연말 행사에서는 특별한 장소에서 멋진 연사들과 함께 유익한 시간을 보내고자 하니 많은 참여 부탁드립니다.

📅 Date
- 2023.12.14 (목) 19:00 ~ 21:30 (등록 18:30~)

📍Venue
- 구글 스타트업 캠퍼스 지하2층 (서울특별시 강남구 영동대로 417)

📝 Agenda
19:00 ~ 19:10 Opening (마키나락스 임용섭 CDS)
19:10 ~ 19:40 Talk 1 - Navigating the Shift: From MLOps to LLMOps (Akira Shibata, Weights & Biases 일본/한국 지사장)

> In this talk, I'll take you on our journey from MLOps to LLMOps, exploring the profound implications of LLMs and other large foundation models on our development/operation workflow. Beyond technical considerations, we'll delve into the organizational aspects of these transformative changes and spotlight the essential tools crucial for success in LLMOps.

19:40 ~ 20:00 Talk 2 - GPU 인프라의 Serverless 아키텍처를 활용하여 확장성 있는 sLLM Fine-tuning 서비스를 만들기 위한 MLOps의 기술적 고려점 (고석현, Sionic ai 대표)

> PEFT (Parameter Efficient Fine Tuning) 과 같은 기술의 발전과 보급으로 인하여 sLLM 과 SD 등 1B 이상의 비교적 대규모 모델의 대한 상용화 수준의 커스텀 모델 학습의 비용이 합리적인 수준까지 도달 하였습니다. 이를 위하여 특히 미세조정-학습 형태의 Serverless 형태의 시스템은 많은 장점을 가지고 있고 딥러닝 모델의 튜닝과 서비스를 SaaS 수준의 제품과 결합하는데 큰 도움을 줍니다. 하지만 일반적인 Serverless 아키텍처와 비교하여 MLOps 타겟인 서비스의 경우 에서는 Container 수준에서 Artifact Registry의 대한 더 많은 고민이 필요합니다. 우리가 해당 문제를 해결하며 겪은 경험을 공유합니다.

20:00 ~ 20:20 Talk 3 - MLOps Transition in Action: 마키나락스의 과거, 현재, 그리고 미래 (김영휘, 마키나락스 MLOps 엔지니어)

> AI 프로젝트의 수와 규모가 커지면서 ML엔지니어가 모델 개발에만 집중할 수 있는 환경 구축이 필요했습니다. 이 세션에서는 다양한 시행착오를 겪으며 오픈소스 기반 아키텍처를 MLOps 플랫폼으로 전환하고, kubernetes와 데이터베이스의 마이그레이션을 진행한 경험을 공유합니다. 또한, 과거와 현재의 경험을 바탕으로 미래의 엔터프라이즈 MLOps 플랫폼이 갖추어야 할 필수 요건과 고려점에 대해 살펴봅니다.

20:20 ~ 21:30 Networking & Closing