Przejdź do treści

Szczegóły

PREZENTACJA 1
LLM w domu, czyli wprowadzenie do lokalnego hostingu modeli.

W prezentacji przedstawię:

- Jak wygląda generowanie odpowiedzi przez model,
- Parametry modelu i sprzętu decydujące o wydajności,
- Architektury modeli i metody optymalizacji,
- Popularne silniki inferencji,
- Jaki sprzęt się nadaje do hostowania.

A na koniec postaram się odpowiedzieć, czy w ogóle warto hostować modele LLM.

Prelegent
Jarek Jaryszew - tworzy oprogramowanie dłużej niż Apple produkuje iPhone, a od około 2 lat skupia się na szeroko pojętym GenAI

PREZENTACJA 2
Security

TBD

Krzysztof Ciesielski

Pokrewne tematy

Może ci się również spodobać