WAIT AI MEETUP #19: AI Safety

Legaltechowa zima w WAIT za nami. Była bardzo ciepła! Nawet wróciliśmy z Warszawy ze skromnym Laurem z Legal Hackathon 2026!!!

Zmieniamy branżę, a nawet nie tyle branżę, co wchodzimy w nowy paradygmat!

AI SAFETY

Czym jest AI Safety i co ją odróżnia od AI Security, z którą bywa mylona?

🔐 AI Security chroni systemy AI przed ludźmi (atakami). Mowa tu o cyberbezpieczeństwie AI, czyli jak zabezpieczyć Sztuczną Inteligencję przed atakami, manipulacją czy próbami przejęcia modeli.

🛟 AI Safety chroni ludzi przed systemami AI. Chodzi o to, aby AI robiło dokładnie to, co chcemy. Nie podejmowało niebezpiecznych decyzji, nie generowało szkodliwych treści.

Naszych dwóch Prelegentów mocno w tych zagadnieniach siedzi i podzieli się z Wami swoją wiedzą z prespektywy "ogólnej" (celowo unikamy słowa biznesowej) oraz technicznej.

Jeżeli myślisz, że kogoś z Twoich znajomych może to zainteresować - bierz ich ze sobą!

-------------------------------------------------------------------------------------------------
Agenda:

• 18:15 <- Powitanie.
• 18:20 - 18:25: Pie & AI - Zaproszenie na Event od Sii
• 18:25 - 19:10 Patryk Wielopolski, PhD: "Wprowadzenie do AI Safety"
• 19:10 - 19:25 Przerwa
• 19:25 - 20:10 Jakub Kryś, PhD: "Moc obliczeniowa w AI - technika i geopolityka"
• 20:10 - 21:00 --- PIZZA TIME + Networking ------

--------------------------------------------------------------------------------------------------
Prelegenci:

Jakub Kryś, PhD (LinkedIn):
Jakub jest pracownikiem badawczym w SaferAI, organizacji non-profit zajmującej się opracowywaniem kwantyfikowalnych modeli ryzyka w AI. Jego doświadczenie obejmuje zarówno techniczne, jak i regulacyjne aspekty AI - pracował nad adversarial ML, użyciem mocy obliczeniowej jako narzędzia na rzecz bezpieczeństwa AI, a także polityką ochrony sygnalistów w AI. Wcześniej ukończył doktorat z fizyki cząstek elementarnych na Uniwersytecie Durham w Wielkiej Brytanii.

Patryk Wielopolski, PhD (LinkedIn):
Patryk jest Research Managerem w MATS – amerykańskiej organizacji non-profit działającej na rzecz rozwoju ekosystemu badań nad bezpieczeństwem AI. Współorganizuje także AI Safety Poland, inicjatywę społecznościową której celem jest budowanie lokalnego ruchu na rzecz bezpieczeństwa AI w Polsce. Przed objęciem tych ról spędził sześć lat w firmie DataWalk oraz uzyskał stopień doktora w dziedzinie sztucznej inteligencji na Politechnice Wrocławskiej.
--------------------------------------------------------------------------------------------------
Abstrakty:

Jakub Kryś, PhD: "Moc obliczeniowa w AI - technika i geopolityka"
Moc obliczeniowa jest jednym z kluczowych czynników w skalowaniu współczesnych systemów AI. W tej prezentacji opowiem jak skoncentrowany łańcuch dostaw GPU jest wykorzystywany jako narzędzie na rzecz bezpieczeństwa AI, ale także do osiągania celów geopolitycznych. Przedstawię również postępy algorytmiczne w treningu 'decentralizowanym', które mogą podważyć ten paradygmat.

Patryk Wielopolski, PhD: "Wprowadzenie do AI Safety."
Wystąpienie stanowi wprowadzenie do bezpieczeństwa sztucznej inteligencji (ang. AI Safety) dla osób, które chcą zrozumieć, czym jest ta dziedzina, dlaczego ma znaczenie i jak można się w nią zaangażować. Omówione zostają trzy główne kategorie ryzyka: nadużycia (ang. misuse; phishing wspomagany przez AI, cyberataki oraz proliferacja zagrożeń CBRN); ryzyka systemowe (deepfake'i podważające zaufanie społeczne, psychologiczne skutki współpracy człowieka z AI oraz trudne do przewidzenia, lecz potencjalnie ogromne zakłócenia na rynku pracy); a także brak spójności (ang. misalignment; wyzwanie polegające na zapewnieniu, że zaawansowane systemy AI realizują cele zgodne z wartościami i potrzebami człowieka, zilustrowane rzeczywistymi badaniami dotyczącymi hakowania funkcji nagrody, fałszowania spójności oraz zachowań intryganckich). Wystąpienie omawia również główne podejścia do przeciwdziałania tym zagrożeniom oraz sposoby aktywnego włączenia się w rozwój tej dziedziny.

******
Uczestnik, dokonując zgłoszenia na wydarzenie, wyraża zgodę na nieodpłatne utrwalanie swojego wizerunku podczas jego trwania oraz na wykorzystanie tych materiałów w celach promocyjnych organizatora tj. WAIT - Wrocław AI Team, w tym na publikację zdjęć na portalach społecznościowych.