Flutter Nantes x Generative AI Nantes : Edge AI - How Far Have We Come?
Details
Flutter Nantes x Generative AI Nantes
📅 24 septembre 2026, 19h à 22h
📍 Nantes, chez SNCF Connect & Tech
Sasha Denisov pour la 23e édition, en format talk plus workshop.
Il y a deux ans, l'IA on-device en Flutter, c'était un classifieur d'images et un petit LLM texte qui répondait à un prompt à la fois. Aujourd'hui nos téléphones font tourner Gemma, Qwen ou Llama : ils voient des images, appellent des outils, gardent le contexte et vont chercher dans une base locale. Hors ligne, sans qu'une donnée quitte l'appareil.
Sasha commence par la rétrospective : les modèles, les runtimes, les packages Dart. LiteRT-LM au centre, open source depuis juin 2025, le runtime qui fait tourner Gemini Nano dans Chrome et sur Pixel Watch. flutter_gemma lui parle via dart:ffi, un client pour six plateformes. Comparaison avec MediaPipe, llama.cpp, ONNX Runtime et les modèles natifs de l'OS, avec le cas d'usage de chacun.
Puis vous construisez, à partir d'une app Flutter vide, une capacité à la fois.
- Il parle. Un modèle ouvert sur LiteRT-LM, les premiers tokens streamés sur un vrai device.
- Il voit. Même session, une image en entrée.
- Il agit. Function calling sur vos fonctions Dart.
- Il apprend. Des skills en simples fichiers SKILL.md, déposés dans l'app qui tourne. Pas de rebuild, pas de release.
- Il se souvient. Embeddings et recherche vectorielle on-device.
- Il prend l'avion. Mode avion activé, tout marche encore.
💻 Session hands-on : laptop avec environnement Flutter configuré, idéalement un device physique. Vous pouvez aussi juste suivre la démo.
