Faktenbasierte LLM-Chatbots für Deine Domäne

Große Sprachmodelle (LLM) sind eine neue Technologie, die die Welt in kürzester Zeit erobert hat. KI-Chatbots wie ChatGPT haben KI durch die Verwendung natürlicher Sprache steuerbar und damit für die breite Öffentlichkeit zugänglich und äußerst nützlich gemacht.

Die meisten Menschen haben wahrscheinlich schon mit diesem oder einem anderen Chatbot experimentiert und ähnliche Erfahrungen gemacht: Sie wissen auf fast jede Frage eine Antwort, schreiben detaillierte Texte und reagieren sogar auf Gegenfragen. Dabei gibt es ein großes Problem: Die Chatbots halluzinieren, d.h. sie erfinden Inhalte, die richtig klingen, aber nicht richtig sind. Außerdem ist es aufgrund der riesigen Menge an Trainingsdaten nicht mehr möglich, zu rekonstruieren, woher eine Information stammt.

Wir haben uns mit diesem Problem auseinandergesetzt und versucht, eine Lösung zu finden, bei der ein Chatbot seine Antworten innerhalb einer bestimmten Domäne aufbaut und Quellen für die Herkunft der verwendeten Informationen aus der Domäne angibt.
Solche wissensbasierten Chatbots können in praktisch jedem Bereich eingesetzt werden, z. B. zum Chatten mit Dokumentationen, Inhalten einer Datenbank oder einer Website, unter Verwendung natürlicher Sprache, ohne das Risiko von Halluzinationen. Wir haben auch Ideen wie die Verwendung von Open-Source-LLMs (z. B. LLama2), Skalierbarkeit und Kostenmanagement untersucht.

------------
Einfach aus dem Homeoffice teilnehmen!
Livestream mit Q&A am 10. Januar 2023, 12:15–13:00 Uhr.
👉👉👉 https://www.youtube.com/watch?v=3-h93osFEJE 👈👈👈
------------
🤝 Für diese Veranstaltung gilt der Berlin Code of Conduct.
🗄️ Alle bisherigen Episoden findest du in unserem Archiv.
❓Fragen oder Anregungen? Schreib uns 👉[technologylunch@innoq.com](http://mailto:technologylunch@innoq.com)!
📘 Inside Technology 11: Unser Buch mit tiefgehenden Fachartikeln zu Software-Architektur und -Entwicklung