Reboot - RAG a gyakorlatban

A rendezvényt a Black Swan támogatja.
A program

Kapronczay Mór (Superlinked): R over G - Különböző adatmodalitások kombinálása jobb RAG teljesítmény eléréshez

A megérdemelten nagy figyelemmel övezett szöveggeneráló nagy nyelvi modellek (LLM) az üzleti világ számára leginkább a RAG módszertanon keresztül teremtenek értéket. A legtöbbet talán arról lehet hallani, hogy melyik LLM milyen színvonalú szöveget volt képes generálni (G) - azonban az egyszeri fejlesztő sokkal hatékonyabban képes javítani egy ilyen rendszer teljesítményét, ha a retrievalre (R) fókuszál. Előadásomban bemutatom, hogyan érdemes különböző adattípusokat egy vektorban kombinálni hatékonyabb RAG rendszer kiépítéséhez.

Lakatos Dorina (MONTANA Tudásmenedzsment Kft.): Adózói Co-Pilot - egy szakértői RAG alkalmazás fejlesztésének tapasztalatai
A nagy nyelvi modellekkel kapcsolatos mesterséges intelligencia fejlesztések között az utóbbi időben nagy hangsúlyt kaptak a Retrieval Augmented Generation (RAG) alkalmazások. Ezek a megoldások azt ígérik, hogy egy külső információforrás segítségével a nagy nyelvi modellek általános szöveggenerálási képességeinek kihasználása mellett a megbízhatóság garantálható a tartalmi kontextus mederben tartásával. Ezzel a nagy nyelvi modellek olyan hiányossága, mint a tudásbeli hiány hallucinációval való kitöltése kiküszöbölhető, emellett pedig megadhatóak a pontos források, amiből a választ generálta.
Ez a tulajdonság kiemelten fontos az olyan szakmai területeken, mint a jog, ahol az egyes fogalmaknak egzakt meghatározása van, és akár a legkisebb tartalmi bizonytalanság komoly károkat okozhat.
Előadásunkban bemutatjuk a NAV Információs Füzeteinek segítségével készített Adózói Co-Pilot alkalmazásunkat, amely adózói kérdésekre képes közérthető válaszokat generálni.