2 prezki : Local AI i Security
Szczegóły
PREZENTACJA 1
LLM w domu, czyli wprowadzenie do lokalnego hostingu modeli.
W prezentacji przedstawię:
- Jak wygląda generowanie odpowiedzi przez model,
- Parametry modelu i sprzętu decydujące o wydajności,
- Architektury modeli i metody optymalizacji,
- Popularne silniki inferencji,
- Jaki sprzęt się nadaje do hostowania.
A na koniec postaram się odpowiedzieć, czy w ogóle warto hostować modele LLM.
Prelegent
Jarek Jaryszew - tworzy oprogramowanie dłużej niż Apple produkuje iPhone, a od około 2 lat skupia się na szeroko pojętym GenAI
PREZENTACJA 2
Security
TBD
Krzysztof Ciesielski
