Nimma.codes: Versleuteld data pseudonimiseren & Je AI-agent heeft root, en nu?

De 37ᵉ monthly meetup van Nimma.codes. Elke laatste dinsdag van de maand. Een cross-language user group voor software developers in de regio Arnhem-Nijmegen.

Locatie
10KB. De Kolk 7, 6541 AV · Nijmegen
Bekijk de routebeschrijving op: https://share.cleanshot.com/FtP0Dkxw

Let op: het eten is er om 17:30. We starten om 18:00 met de opening. We houden er niet van om eten te verspillen. Ben je verhinderd? Geen probleem, maar meld je uiterlijk een dag voor de meetup af.

Programma

• 17:30 - 18:00 Inloop + food/drinks
• 18:00 - 18:45 Versleuteld data pseudonimiseren? - Job Doesburg
• 18:45 - 19:00 Pauze
• 19:00 - 19:45 Je AI-agent heeft root, en nu? - Roland Boon
• 20:00 - 21:00 Netwerken en gezelligheid

Versleuteld data pseudonimiseren? - Job Doesburg
Om privacy-vriendelijk gegevens uit te wisselen tussen systemen of organisaties, kan het waardevol of zelfs noodzakelijk zijn om te pseudonimiseren. PEP (polymorfe encryptie en pseudonimisatie) is een cryptografische methode om dit te doen, waarbij geen enkele partij in staat is om gegevens terug te linken. Hiermee kunnen verrassend sterke privacyeigenschappen worden bereikt en data zelfs effectief anoniem worden gemaakt. Naast de fundamentele technologie, laten we ook zien hoe dit toegankelijk is geïmplementeerd in de open-source libpep library (Rust, met bindings voor WASM/TS/JS en Python). Fun fact: deze technologie zit stiekem al ingebouwd in je rijbewijs.

Over Job Doesburg
Job Doesburg is promovendus aan de Radboud Universiteit.
Hij doet onderzoek naar privacy en security en is werkzaam voor de afdeling software science en het Nationaal Onderwijslab AI, waar hij zich bezig houdt met “Duurzame Data”.
Naast onderzoeker ziet Job zichzelf ook als software developer, zowel professioneel als hobbymatig.
Hij vindt het belangrijk dat de inzichten uit de wetenschap ook écht in de praktijk gebruikt kunnen worden.

Je AI-agent heeft root, en nu? - Roland Boon
AI-coding-assistants zoals Cursor en Claude draaien met jouw rechten. Ze lezen en schrijven bestanden, voeren terminal commando's uit en doen netwerkverzoeken. Dat terwijl ze input verwerken waar jij geen controle over hebt: documentatie, tickets, dependencies, websites. Prompt injection is het SQL injection van het AI-tijdperk, alleen breder en subtieler.

In deze talk gaan we (proberen) met live demo's te laten zien hoe onzichtbare instructies in ogenschijnlijk veilige tekst je AI-agent kunnen overnemen, en wat die agent vervolgens kan doen. Daarna bespreken we praktische defensiestrategieen en hebben we het graag over attack vectors en maatregelen die wij nog niet hebben bedacht.

Over Roland Boon
Roland Boon is eigenaar en software engineer bij 10KB. Met 20+ jaar ervaring in web development bouwt hij mission-critical bedrijfssoftware met een focus op security en privacy by design. Bij 10KB wordt intensief met AI-assisted development gewerkt, en met Manjikaze (https://github.com/10KB/manjikaze) werken ze aan het hardenen van hun eigen ontwikkelomgeving. Deze talk is ontstaan uit interne discussies binnen het team over hoe ver je een AI-agent kunt en mag vertrouwen.