LLM en tu dispositivo en producción: de iOS a Android y la Windows Store

Todo el mundo habla de modelos locales, pero pocos los han pasado por el proceso de revisión de la App Store, Google Play y la Microsoft Store.

En esta charla comparto lo que aprendí construyendo Bri Visión, un asistente para personas con problemas de visión , documental con RAG que funciona íntegramente en el dispositivo, pensado para privacidad y accesibilidad, y su versión RAG para Windows.
Veremos:

• Qué modelos aguantan de verdad en un móvil y cuáles se quedan sin memoria antes de arrancar
• Cómo cambia la arquitectura RAG cuando no hay servidor detrás: indexado, embeddings y almacenamiento en local
• Diferencias reales entre iOS, Android y Windows: runtimes, aceleración por hardware y tamaño del binario
• Qué te pide (y qué te rechaza) cada tienda cuando empaquetas un modelo dentro de la app
• Errores que me costaron semanas y cómo los evitarías tú

Sin diapositivas de arquitectura ideal: código, límites de memoria y decisiones tomadas con restricciones reales.