Data Science & AI #29 - Hierarchical RAG & KI in der Forschung

Dieses Event widmet sich dem Einsatz von generativer KI zur Erschließung komplexer Wissensbestände: Wir beleuchten, wie diese Technologie genutzt werden kann, um riesige Datenmengen in hochspezialisierten Forschungs- und Industriebereichen handhabbar zu machen.

Ein herzliches Dankeschön an die codecentric AG für die Gastfreundschaft! Als Experten für agile Softwareentwicklung und innovative Technologien unterstützt codecentric Unternehmen dabei, komplexe IT-Herausforderungen zu meistern und zukunftsfähige Lösungen zu entwickeln. Vielen Dank für das Sponsoring des Events, inklusive Location und Verpflegung.
Es erwarten euch spannende Vorträge und unser gewohnt lockerer Austausch bei Snacks und Kaltgetränken. Dies ist eure Gelegenheit, andere Data Science Professionals aus dem Raum Nürnberg zu treffen, eure Expertise zu vertiefen und Ideen mit Gleichgesinnten auszutauschen.

🗓️ Agenda

• 18:00 – Einlass und Empfang
• 18:15 – Talk: KI-gestützte Wissenserschließung (Prof. Dr. Peter Felfer)
• 19:30 – Networking mit Essen und Getränken

Ort: codecentric AG | Sophie-Germain-Straße 12 | 90443 Nürnberg |

KI-gestützte Wissenserschließung: Wie Materialwissenschaft die Grenzen von LLMs erweitert
Prof. Dr. Peter Felfer, Institut für Allgemeine Werkstoffeigenschaften, Friedrich-Alexander-Universität Erlangen-Nürnberg.

Die explosionsartige Zunahme wissenschaftlicher Literatur stellt Forschende vor ein wachsendes Problem: In vielen Fachbereichen, insbesondere in stark empirischen Domänen wie der Materialwissenschaft, ist es schlicht unmöglich, die gesamte Wissensbasis zu überblicken. Unser Fallbeispiel, die Auswirkung von Wasserstoff auf Werkstoffe, umfasst schätzungsweise 15.000 Publikationen, Tendenz stark steigend – ein entscheidendes Feld für die Energiewende, in dem das gesamte existierende Wissen bekannt sein muss, da keine universellen Grundwahrheiten existieren.

Die Verarbeitung dieser Massendaten übersteigt die Kapazitäten herkömmlicher Sprachmodelle (LLMs), da sie nicht in ein einziges Kontextfenster passen. Um dieses Skalierungsproblem zu lösen, präsentieren wir unseren Ansatz: ein Hierarchical Retrieval-Augmented Generation (RAG) System. Dieses System nutzt domänenspezifisches Vorwissen der Materialwissenschaft, um die riesige Literaturmenge systematisch zu strukturieren und vorzuverarbeiten. Anstatt alle Dokumente gleichzeitig zu behandeln, führen wir ein mehrstufiges KI gestütztes Preprocessing und Retrieval im Mix mit Metadaten durch, das nur die relevantesten Informationen in das Kontextfenster des LLM einspeist. Dieser hierarchische Ansatz überwindet nicht nur die Skalierungsgrenze von Kontextfenstern in der Forschung, sondern bietet auch einen übertragbaren Blueprint für die Industrie: überall dort, wo große, heterogene Datensilos existieren – etwa in der rechtlichen Compliance, der Pharmakovigilanz (Sicherheitsüberwachung von Medikamenten) oder bei der Verwaltung technischer Handbücher und Unternehmenswissen – kann dieses System LLMs transformieren, um präzise, faktenbasierte Antworten aus großen Datenarchiven zu generieren. In diesem Talk wird gezeigt, wie dieser hierarchische RAG-Ansatz es ermöglicht, LLMs auf eine Weise nutzbar zu machen, die zuvor aufgrund der großen Datenmenge ausgeschlossen war.

---

Seid dabei bei einem Abend voll inspirierender Talks, spannender Diskussionen und Networking mit anderen KI-Professionals. Wir freuen uns auch euch!