RO:SEC - KI-Agenten & Code im Security-Check: Zwischen Hype, Hack und SAIF 2.0
Details
Am 24.06.26 steigt unser nächstes Codineers Rosenheim Meetup vor Ort in unserem Büro in Rosenheim oder Remote via Zoom.
Meeting Link: https://qaware-de.zoom.us/j/88063201327?pwd=1CYwSe7eGIBM3FJWygby1oixvzXUwg.1
Meeting-ID: 880 6320 1327
Kenncode: tW8JTFtiSF
## KI-Agenten & Code im Security-Check: Zwischen Hype, Hack und SAIF 2.0
Vom nützlichen Entwickler-Tool bis zum autonomen System: KI-Agenten übernehmen immer mehr Kontrolle. Sie generieren Pull Requests, führen eigenständig Code aus und handeln im Namen der User, oft komplett ohne menschliche Aufsicht.
Doch wo endet der Hype und wo beginnen die echten Risiken? Was taugen die integrierten Sicherheitsfeatures aktueller Modelle, wenn sie auf die Realität der Softwareentwicklung treffen? Und wie groß ist der "Blastradius", wenn Agenten durch präparierte E-Mails manipuliert werden?
Dieses Meetup liefert dir einen fundierten Security-Deep-Dive. Wir analysieren reale Vorfälle, prüfen die aktuellsten Anthropic-Modelle auf Herz und Nieren und stellen dir konkrete Design-Prinzipien (SAIF 2.0) vor, mit denen du deine KI-Systeme absicherst bevor sie live gehen.
*** Agenda ***
17:30 Uhr | Doors open. Schnapp' dir Snacks & Getränke.
17:45 Uhr | Welcome & Intro
18:00 Uhr | Zwischen Hype und Realität: Anthropic-Modelle und "Project Glasswing" im Security-Check - Stefan Feuerstein
18:45 Uhr | SAIF 2.0 – Sicherheitsstrategien für die Ära autonomer KI-Agenten - Alexander Eimer
19:30 Uhr | GetTogether
*** Unsere Vorträge ***
Zwischen Hype und Realität: Anthropic-Modelle und "Project Glasswing" im Security-Check
In diesem Vortrag werfen wir einen kritischen Blick auf die aktuelle Leistungsfähigkeit der neuesten Anthropic-Modelle und schauen unter die Haube von Entwicklertools wie der Claude CLI.
Im Zentrum steht dabei die Perspektive der IT-Security: wie sicher ist AI-Code? Was bringen die mitgelieferten "Sicherheitsfeatures"?
Zudem wollen wir natürlich auch wissen, ob Mythos uns zeitnah unseren Job wegnimmt: Deswegen ziehen wir ein Fazit nach zwei Monaten Project Glasswing. Was ist Fakt, was Fiktion?
SAIF 2.0 – Sicherheitsstrategien für die Ära autonomer KI-Agenten
KI-Agenten sind längst im Produktiveinsatz: Sie generieren Millionen von Pull Requests, lösen Support-Tickets und verwalten die interne Unternehmenskommunikation.
Sie sind keine bloßen Chatbots. Sie verfügen über Zugriffsrechte, führen eigenständig Code aus und handeln im Namen der User – komplett ohne menschliche Aufsicht.
Doch diese Autonomie vergrößert den potenziellen Blastradius enorm.
Die Beispiele aus der Praxis sprechen für sich: Eine einzige präparierte E-Mail verwandelte Microsoft 365 Copilot in ein Werkzeug zum Datendiebstahl. Ein simpler einzeiliger Prompt brachte den Chatbot eines Autohauses dazu, einem 1-Dollar-Verkauf zuzustimmen – vor den Augen von Millionen. Das sind keine kuriosen Einzelfälle, sondern das Resultat von Produkten, die ohne das nötige Sicherheitsfundament entwickelt wurden.
Googles Secure AI Framework 2.0 (SAIF) ist die Antwort aus der Praxis. Es identifiziert 15 spezifische Risiken, ordnet sie den Komponenten eines KI-Systems zu und liefert konkrete Sicherheitsmaßnahmen. SAIF 2.0 erweitert diesen Rahmen gezielt für agentische Systeme: Es zeigt auf, wo sie versagen, warum die Risiken hier höher liegen und wie wir die Architektur grundlegend neu denken müssen.
Dieser Vortrag analysiert die SAIF-Architektur anhand realer Vorfälle und schließt mit fünf entscheidenden Design-Prinzipien ab, die den Blastradius Ihrer Agenten minimieren, bevor sie live gehen.
Wir sind Partner der ROSIK.