Wir laden dich herzlich zu unserem nächsten Meetup vor Ort in Köln ein! Willkommen ist jede:r, der/die Lust auf einen offenen Austausch hat, ganz gleich wie erfahren du bist, welche Technologien du präferierst oder was dein Spezialgebiet ist.
Künstliche Intelligenz verändert rasant die Art und Weise, wie wir Software entwickeln – und stellt dabei neue Fragen an die Sicherheit. In diesem Meetup schauen wir uns an, welche Chancen und Risiken sich durch den Einsatz von KI in der Softwareentwicklung ergeben – sowohl aus konzeptioneller als auch aus praktischer Perspektive. Unsere zwei Vorträge zeigen dabei aktuelle Herausforderungen und Lösungen rund um KI-gestützte Systeme und LLM-Security.
1. Vortrag: KI & Security: The Good, the Bad and the Ugly (Clemens)
KI ist nicht erst seit dem Zugang der breiten Masse zu LLMs in aller Munde und hat sich längst auf einem hohen Hype-Niveau eingependelt. Die neuen Technologien halten mehr und mehr in fast allen Bereichen Einzug – so auch in der Entwicklung sicherer Software.
Dieser Vortrag zeigt das Spannungsfeld von KI, Softwareentwicklung und Security. Er beleuchtet die unterschiedlichen Aspekte, die mit den neuen Möglichkeiten verbunden sind:
- Wie kann KI bei der Entwicklung unterstützen und wie kann das sicher geschehen?
- Wie können Systeme mit KI-Komponenten selbst sicher entwickelt und betrieben werden?
- Welche neuen Schwachstellen müssen berücksichtigt werden?
- Und, nicht zuletzt: Welche Möglichkeiten bietet AI für Angreifer? Wie verändern sich deshalb Threat Models?
Abschließend werfen wir einen Blick auf zukünftige Entwicklungen im Bereich KI und Security und die Frage, wie Unternehmen sich auf die Herausforderungen der nächsten Zukunft vorbereiten können.
2. Vortrag: Hands-on LLM Security – Schwachstellen und Gegenmaßnahmen (Florian)
Die enorme Begeisterung für große Sprachmodelle (LLMs), die Ende 2022 durch die Einführung von OpenAIs ChatGPT ausgelöst wurde, hält weiterhin an. Immer mehr Unternehmen versuchen, diese Technologien schnell in ihre Geschäftsabläufe und Kundenangebote zu integrieren. Diese rasante Verbreitung macht die Auseinandersetzung mit den spezifischen Sicherheitsrisiken von LLMs erforderlich.
In diesem Vortrag beleuchten wir typische Schwachstellen in LLMs aus einer praxisorientierten Perspektive. Ausgehend von einer systematischen Übersicht stellen wir anhand einer konkreten Demo-App anschaulich die verschiedenen Angriffsszenarien vor. Prompt Injection, Data Poisoning und System Prompt Leakage werden genauso erklärt und demonstriert wie Angriffe auf RAG- und Agenten-Implementierungen.
Der Vortrag stellt neben einer grundsätzlichen Einführung und einer Präsentation konkreter Verwundbarkeiten auch passende Gegenmaßnahmen vor. Abschließend werden diese um allgemeine Best Practices für die Nutzung von LLMs in Geschäftsanwendungen ergänzt.
Folgende ungefähre Agenda erwartet dich:
- ab 18 Uhr Ankommen
- 18:30 Uhr 1. Vortrag & Fragen
- 19:15 Uhr Pause mit Essen & Gesprächen
- 19:45 Uhr 2. Vortrag & Fragen
- 20:30 Uhr Abschluss und Zeit für weitere Gespräche
Das Meetup findet in deutscher Sprache statt.
Wir freuen uns auf dich!
