Webnesday St. Gallen

Ollama im Keller, vLLM im Serverraum - lokale KI im Unternehmen | by Marco von PrismaLife AG
Lokale Modelle lassen sich im Unternehmen selbst betreiben, auf eigener Hardware, hinter einer API, die aussieht wie die von OpenAI. Man lädt sie herunter und betreibt sie selbst, ohne Anbieterabhängigkeit, und die Daten bleiben im Unternehmen. Der Talk zeigt, worauf es ankommt: wir sprechen über Modelle, Hardware, Quantisierung, Dense und MoE. Außerdem: warum wir vLLM statt Ollama einsetzen, was wir mit einem DGX Spark gelernt haben und ein Auszug aus meinen Use Cases.

Du willst also eine Language Extension bauen? | by Dominic von Meteomatics
Syntax Highlighting kann doch nicht so schwierig sein, oder? Und wenn das funktioniert, bauen wir schnell noch Autocomplete dazu …
In diesem Talk nehme ich euch mit auf meine Reise durch die Extension-Systeme verschiedener Editoren. Wir schauen hinter die Kulissen von Syntax Highlighting und Language Servern und darauf, welche überraschenden Unterschiede und Fallstricke zwischen den Editor-Ökosystemen warten.

Aufwachsen mit Internet in den 90ern und dann Vatersein in den 20ern | by Thomas von SGKB
Wie beeinflusst das begeisterte Aufwachsen mit Internet in den 90ern das Erziehen in den 20ern? Welche Gefahren bestehen, welche Mittel gibt es und was sind meine Erfahrungen?

Wie immer habt ihr nach den Talks noch Zeit, eure Ideen und Fragen bei einem Getränk und Snack zu besprechen. Vielen Dank an die St.Galler Kantonalbank fürs Sponsoring!

Bitte meldet euch an, sagt es weiter und kommt zahlreich - wir freuen uns auf euch!