Building Document Question-Answering Systems with Rust

A practical two-hour session on the principles behind document question-answering systems, with Rust as the implementation context.
The session focuses on how applications can answer questions from a known set of documents instead of relying only on what a language model already knows. We will cover the core workflow: loading documents, preparing them for search, finding relevant passages, passing useful context to a model, and producing answers that stay connected to the source material.
The goal is to teach the engineering ideas behind RAG systems without turning the session into a product demo or an abstract AI lecture. The emphasis is on system boundaries, retrieval quality, answer grounding, error handling, and the practical decisions developers need to make when building document-aware applications.
Audience: entry-level and intermediate developers who want a practical session on document search, retrieval, grounded generation, and Rust application design.
Outcomes:

• Understand how document-based question answering systems work
• Explain the purpose of chunking, embeddings, retrieval, and context assembly
• Design a simple retrieve-first, answer-second workflow
• Use Rust to organize the main parts of a small RAG application
• Recognize common causes of poor or unsupported answers
• Apply basic techniques for improving retrieval and answer quality
• Think about how to evaluate whether the system is actually useful

Format: two hours with a short framing walkthrough, a concrete example, discussion of tradeoffs, and a closing checklist for practice.

--------

Une session pratique de deux heures sur les principes des systèmes de questions-réponses sur documents, avec Rust comme contexte d'implémentation.
La session se concentre sur la manière dont les applications peuvent répondre à des questions à partir d'un ensemble connu de documents au lieu de s'appuyer uniquement sur les connaissances préalables d'un modèle de langage. Nous aborderons le flux de travail principal : charger des documents, les préparer pour la recherche, trouver les passages pertinents, transmettre un contexte utile à un modèle et produire des réponses qui restent liées au matériel source.
L'objectif est d'enseigner les concepts d'ingénierie derrière les systèmes RAG sans transformer la session en démonstration de produit ou en conférence abstraite sur l'IA. L'accent est mis sur les limites du système, la qualité de la recherche, l'ancrage des réponses, la gestion des erreurs et les décisions pratiques que les développeurs doivent prendre lors de la création d'applications exploitant des documents.
Public cible : développeurs débutants et intermédiaires souhaitant une session pratique sur la recherche documentaire, la récupération d'informations, la génération ancrée et la conception d'applications en Rust.
Résultats attendus :

• Comprendre le fonctionnement des systèmes de questions-réponses basés sur des documents
• Expliquer l'objectif du découpage (chunking), des embeddings, de la recherche et de l'assemblage de contexte
• Concevoir un flux de travail simple de type « recherche d'abord, réponse ensuite »
• Utiliser Rust pour organiser les composants principaux d'une petite application RAG
• Reconnaître les causes courantes de réponses médiocres ou non étayées
• Appliquer des techniques de base pour améliorer la qualité de la recherche et des réponses
• Réfléchir à la manière d'évaluer si le système est réellement utile

Format : deux heures avec une courte présentation de cadrage, un exemple concret, une discussion sur les compromis et une liste de contrôle de clôture pour la pratique.