OpenData Time - Thema: Agentic Misalignment, wenn die KI tötet

Wir stellen Antropic's Agentic Misalignment Experiment für das "Mord Szenario" vor.
Wie verhält sich eine als "ethisch" beworbene KI (Claude 3.5 Sonnet) in moralischen Dilemma-Situationen? Die Ergebnisse sind überraschend und zeigen die Grenzen von "Constitutional AI" auf.
Wer mag, kann gerne schon mal reinschauen: https://codeforcologne.github.io/agentic-misalignment/index_de.html

Ein fünfminütiger Podcast mit einer kurzen Zusammenfassung der Ergebnisse ist dort ebenfalls verfügbar.

Im Open Knowledge Laboratory treffen sich Menschen, die sich für Offenes Wissen, Offene Daten, Open Source, Partizipation und Digitalisierung in Köln interessieren.

Wir sehen uns am jeden 1. Montag im Monat im lokal_k.

Du hast etwas für frei verfügbares Wissen übrig? Du hast vielleicht ein Projekt, aber keine Mitstreiter:innen? Du suchst den Austausch zu digitalen und gesellschaftlichen Themen? Oder Du würdest gerne Deine Fähigkeiten in der Entwicklung von Open Source Anwendungen trainieren? Oder Du bist an der Entwicklung der Open Data Community interessiert? Oder willst Du einfach herausfinden, wie wir gemeinsam die Welt verbessern können?

Du bist herzlich eingeladen mitmachen. Wir freuen uns auf Dich!
Weitere Informationen zum Lab findest du hier: http://codefor.de/koeln