RO:SEC - Wenn KI-Agenten Amok laufen: Strategien für die autonome Zukunft
Details
Am 24.06.26 steigt unser nächstes Codineers Rosenheim Meetup vor Ort in unserem Büro in Rosenheim oder Remote via Zoom.
Meeting Link: https://qaware-de.zoom.us/j/88063201327?pwd=1CYwSe7eGIBM3FJWygby1oixvzXUwg.1
Meeting-ID: 880 6320 1327
Kenncode: tW8JTFtiSF
## Wenn KI-Agenten Amok laufen: Security Strategien für die autonome Zukunft
KI-Agenten revolutionieren im Eiltempo unsere Arbeitswelt. Sie schreiben Code, lösen Support-Tickets und verwalten die interne Kommunikation. Kurz: Sie mutieren vom netten Chatbot zum autonomen "Mitarbeiter".
Doch was passiert, wenn die digitalen Kollegen plötzlich Rechte besitzen, ohne menschliche Aufsicht handeln, aber gleichzeitig manipulierbar sind wie ein Sechsjähriger im Drogenrausch?
Bei unserem nächsten Meetup werfen wir einen Blick hinter die Kulissen des Hypes. Wir analysieren reale Vorfälle, testen Next-Gen-Entwicklungsumgebungen auf Herz und Nieren und zeigen dir, wie du den Blastradius deiner autonomen Systeme minimierst.
*** Agenda ***
17:30 Uhr | Doors open. Schnapp' dir Snacks & Getränke.
17:45 Uhr | Welcome & Intro
18:00 Uhr | TBD - Stefan Feuerstein
18:45 Uhr | SAIF 2.0 – Sicherheitsstrategien für die Ära autonomer KI-Agenten - Alexander Eimer
19:30 Uhr | GetTogether
Wir sind Partner der ROSIK.
*** Unsere Vorträge ***
SAIF 2.0 – Sicherheitsstrategien für die Ära autonomer KI-Agenten
KI-Agenten sind längst im Produktiveinsatz: Sie generieren Millionen von Pull Requests, lösen Support-Tickets und verwalten die interne Unternehmenskommunikation.
Sie sind keine bloßen Chatbots. Sie verfügen über Zugriffsrechte, führen eigenständig Code aus und handeln im Namen der User – komplett ohne menschliche Aufsicht.
Doch diese Autonomie vergrößert den potenziellen Blastradius enorm.
Die Beispiele aus der Praxis sprechen für sich: Eine einzige präparierte E-Mail verwandelte Microsoft 365 Copilot in ein Werkzeug zum Datendiebstahl. Ein simpler einzeiliger Prompt brachte den Chatbot eines Autohauses dazu, einem 1-Dollar-Verkauf zuzustimmen – vor den Augen von Millionen. Das sind keine kuriosen Einzelfälle, sondern das Resultat von Produkten, die ohne das nötige Sicherheitsfundament entwickelt wurden.
Googles Secure AI Framework 2.0 (SAIF) ist die Antwort aus der Praxis. Es identifiziert 15 spezifische Risiken, ordnet sie den Komponenten eines KI-Systems zu und liefert konkrete Sicherheitsmaßnahmen. SAIF 2.0 erweitert diesen Rahmen gezielt für agentische Systeme: Es zeigt auf, wo sie versagen, warum die Risiken hier höher liegen und wie wir die Architektur grundlegend neu denken müssen.
Dieser Vortrag analysiert die SAIF-Architektur anhand realer Vorfälle und schließt mit fünf entscheidenden Design-Prinzipien ab, die den Blastradius Ihrer Agenten minimieren, bevor sie live gehen.
Talk 2: TBD