GreenPT's sustainable approach to LLM inference

Wie kann man die Inference von LLM klimafreundlich gestalten – diese Frage begleitet uns ja schon längerund Robert Keus von GreenPT stellt uns eine Strategie hierfür vor.

Der Kern dieser Strategie sind effiziente Open Source (Open Weight) Modelle und das richtige Routen von Anweisungen zum besten und kleinsten Modell.

Wie man diese Abstrakten Strategien im Detail umsetzt und was GreenPT, als LLM Inference Provider, für weitere technische Maßnahmen ergreift, erfahren wir an diesem Abend.
Zwei starke Take-Aways verspricht dieser Abend:

• Ein tiefes Verständnis für Strategien, um LLM klimafreundlich zu betreiben.
• Wie man solche LLM Inference Provider in seine Projekte (KI-Integration, Coding Agenten) einsetzt.

Das Meetup ist wie immer hybrid, bitte wählt beim RSVP das passende Format (Online oder vor Ort).

Hinweis: Der Talk ist auf Englisch

Agenda
18:00 Einlass & Networking
18:30 Vortrag mit einer kleinen Pause zwischendurch
21:00 Ende & Networking
----------------------------------------
Green Software Development Karlsruhe ist ein unabhängiger Teil der globalen Green Software Foundation Community.
Das CyberForum, die Wirtschaftsförderung, die Fairantwortung und der ImpactHub Karlsruhe sorgen für eine Verbreitung des Events im Netzwerk.
----------------------------------------