Budujemy agenta AI do red teamingu — wspólne eksperymenty z Hack The Box
Details
Czy agent AI potrafi rozwiązywać zadania CTF? Jakich narzędzi potrzebuje, co powinien zapamiętywać i kiedy musi wkroczyć człowiek? Spróbujmy sprawdzić to wspólnie.
Zaczynamy pracę nad hackerspace’owym agentem do red teamingu, którego będziemy testować na zadaniach z Hack The Box. Na początek chcemy stworzyć prototyp pomagający w rozpoznawaniu środowiska i szukaniu podatności, a w kolejnych iteracjach sprawdzać, jak zwiększyć jego samodzielność.
Podczas spotkania planujemy:
- przyjrzeć się dostępnym modelom i środowiskom do uruchamiania agentów, ze szczególnym zainteresowaniem otwartymi modelami;
- wybrać punkt wyjścia i spróbować uruchomić pierwszego agenta z narzędziami przydatnymi w CTF;
- zastanowić się nad jego pamięcią: jak zapisywać odkryte informacje, wykonane próby i ich wyniki;
- przetestować wybrane podejście na zadaniu i zobaczyć, gdzie agent sobie radzi, a gdzie potrzebuje pomocy;
- porównać obserwacje dotyczące skuteczności, kosztów i zużycia kontekstu oraz wybrać następne kroki.
Jedno z pytań, które chcemy zbadać: ile daje samo użycie gotowego agenta, a ile możemy zyskać, dostosowując jego narzędzia i pamięć do zadań bezpieczeństwa? Zależy nam na samodzielnym rozwiązywaniu zadań przez agenta, bez korzystania z gotowych opisów rozwiązań.
Spotkanie ma formę wspólnego warsztatu i eksperymentu. Technologię i kierunek rozwoju wybierzemy razem. Będziemy pracować w środowiskach treningowych przeznaczonych do takich testów.
Zapraszamy osoby zainteresowane bezpieczeństwem, programowaniem i modelami językowymi. Możesz pisać kod, pomagać w zadaniach CTF, proponować eksperymenty albo po prostu obserwować i zadawać pytania. Wcześniejsze doświadczenie z agentami AI nie jest wymagane.
Jeśli chcesz aktywnie pracować nad prototypem, zabierz laptopa. Przyjdź z pomysłami i ciekawością — wspólnie sprawdzimy, co uda się zbudować!
---
Zaczynamy o 19:00, ale warto sprawdzić https://at.hs-ldz.pl – być może ktoś otworzy siedzibę wcześniej. Jeżeli masz problem z wejściem, zadzwoń na 42-203-20-50 albo wejdź na naszego chata (patrz poniżej).
Potrzebujesz więcej informacji? Skontaktuj się z nami na czacie lub mailowo. Szczegóły znajdziesz tutaj:
Więcej szczegółów uzgodnimy na naszym chacie Telegramowym:
https://t.me/hakierspejs