AI & Tech Talks #8: Large Language Models

Zapraszamy na pierwszy po wakacjach meetup z cyklu AI & Tech Talks. Jak zawsze chcielibyśmy się podzielić z Wami wiedzą i doświadczeniami jakie zdobyliśmy w pracy nad naszymi systemami e-learningowymi. Tym razem na naszej scenie wystąpią speaker i speakerka, którzy przedstawią najnowsze trendy i rozwiązania z obszaru Large Language Models.

📅 20.09.2023

⏰ godz. 18:00

📍Poznań, Nobel Tower, I piętro

Do zobaczenia!

AGENDA:

18:00 – 18:10 Start

18:10 – 19:10

Co i jak z LLM, od typów i przypadków użycia, przez (do)trenowanie po deployment.

Prowadzący: Krzysztof Sopyła

W trakcie prezentacji zostanie przedstawiony obecny obraz przykładów wykorzystania, narzędzi, bibliotek oraz sposobów deploymentu LLM’ów. Będzie mowa o typach LLM wraz ze wskazaniem w jakich przypadkach użycia się nadają, kiedy warto skorzystać z OpenAI, a kiedy lepiej z modelu Open-source. Będzie krótko o datasetach, narzędziach i bibliotekach do treningu. Na koniec zaprezentowane zostaną narzędzia, które pozwolą uruchomić LLM na lokalnym komputerze oraz jako inference server. Przedstawimy także wyniki naszego porównania po względem szybkości dwóch inference servers (TGI, vLLM).

19:10 – 19:20 Przerwa

19:20 – 19:50

Jeden tensor wyraża więcej niż tysiąc słów.

Prowadząca: Izabela Krysińska

Podczas prezentacji zostaną omówione różne metody wykorzystania modeli foundational do rozwiązywania zadań downstreamowych. Przedstawione zostaną alternatywy do fine-tuningu, które sprawdzą się, jeśli nie macie wystarczającego zbioru treningowego albo Wasze zasoby nie pozwalają na hostowanie kilku modeli do różnych zadań downstreamowych. Omówione zostaną metody takie jak P-tuning, soft prompting i prefix tuning.

19:50 – 20:10 Quiz

20:10 – 21:00 Networking i 🍕

---------------------------------------------------------------------------------------------------

Administratorem Twoich danych osobowych jest Pearson Central Europe Sp. z o.o. z siedzibą w (01-748) Warszawie, przy Szamockiej 8 (dalej Pearson). Z Inspektorem Ochrony Danych wyznaczonym przez Administratora można kontaktować się mailowo, pod adresem: [pce.dpo@pearson.com](http://mailto:pce.dpo@pearson.com/), a także pocztą tradycyjną pod adresem j. w., z dopiskiem „RODO”. Twoje dane osobowe przetwarzane są na podstawie RODO art. 6 ust. 1 lit. A - czyli wyrażasz zgodę na:

• podanie danych niezbędnych do rejestracji,
• przetwarzanie danych kontaktowych przez Administratora w celu organizacji wydarzenia,
• Informowanie o innych, podobnych wydarzeniach organizowanych albo współorganizowanych przez Administratora.

W czasie wydarzenia będą wykonywane zdjęcia i wykorzystywane w celach promocyjnych przez Administratora. Twoje dane będą przetwarzane do momentu odwołania przez Ciebie zgody na przetwarzanie danych. Posiadasz prawo dostępu do treści swoich danych oraz prawo ich sprostowania, usunięcia, ograniczenia przetwarzania, prawo do przenoszenia danych, prawo wniesienia sprzeciwu. Masz prawo wniesienia skargi do Prezesa Urzędu Ochrony Danych Osobowych, gdy uznasz, iż przetwarzanie Twoich danych osobowych narusza przepisy RODO. Uznajemy, że zarejestrowanie się oraz uczestnictwo w wydarzeniu jest jednoznaczne z wyrażeniem zgody na przetwarzanie danych osobowych. W każdym momencie możesz ją wycofać, co będzie równoznaczne z zaprzestaniem przetwarzania danych. Zgoda jest dobrowolna, ale konieczne dla realizacji celów przetwarzania. Twoje dane nie będą poddawane profilowaniu. Administrator nie będzie przekazywać danych osobowych do państw trzecich, poza komunikacją w ramach grupy Pearson oraz związanym z wykorzystywanymi rozwiązaniami informatycznymi. Twoje dane osobowe mogą zostać udostępnione organom uprawnionym na podstawie przepisów prawa oraz powierzone na podstawie umowy powierzenia zawartej na piśmie podmiotom świadczącym usługi na zlecenie Administratora.