Montréal AI safety, governance, and ethics

Greywall is a software-defined agent sandbox & proxy that was born out of a frustration with constantly having to choose between convenience and safety.
​A presentation by Max, founder of Greyhaven, a Montréal-based startup dedicated to building sovereign AI systems.

> ​In late 2024, I discovered my first AI coding agent (Aider), and I was immediately faced with an increasingly common decision: how much effort do I want to put into using this thing safely?
> ​At the time, the FOMO fuel wasn't as potent as it is today, and I took the time to set up a docker container to test the thing out. I couldn't think of a plausible way that one of these language models could do much harm in a basic sandbox.
> ​But it was immediately clear how powerful this paradigm was, and I found myself spending more and more effort to build automations around containers. My team built a CLI tool which automated docker commands, agent builds, MCP tools.
> ​But our container CLI tool was clunky and difficult to introspect. Every day I felt like I was fighting a tradeoff between security and capabilty.
> ​So we went back to the drawing board and thought, "what do we really need to feel comfortable using local AI agents?" And so we designed something fundamentally different: Greywall. A software-defined sandbox that acts as an intermediary layer between an application (e.g. an Agent) and the operating system resources.
> ​This pattern allows for users of agent CLI tools to have fine-grained, runtime visibilty & controls while also using their normal development environments, and I believe this pattern unlocks a kind of "AI Middleware". Suddenly, using the sandbox feels exciting, instead of a slog, because it unlocks new avenues of exploration.
> ​Then I discovered the field of AI Control and realized we might just be working on the same problem.

---

Greywall est un bac à sable logiciel et proxy pour agents, né d'une frustration face au choix constant entre commodité et sécurité.
Une présentation de Max, fondateur de Greyhaven, une startup montréalaise dédiée à la construction de systèmes d'IA souverains.

Max écrit :
Fin 2024, j'ai découvert mon premier agent de programmation IA (Aider), et j'ai immédiatement été confronté à une décision de plus en plus courante : combien d'efforts est-ce que je veux investir pour utiliser cet outil de manière sécuritaire?
À l'époque, la peur de manquer le train n'était pas aussi intense qu'aujourd'hui, et j'ai pris le temps de configurer un conteneur Docker pour tester le tout. Je ne voyais pas comment un de ces modèles de langage pourrait causer beaucoup de dommages dans un bac à sable de base.
Mais la puissance de ce paradigme était immédiatement évidente, et je me suis retrouvé à investir de plus en plus d'efforts pour construire des automatisations autour de conteneurs. Mon équipe a développé un outil en ligne de commande qui automatisait les commandes Docker, les builds d'agents et les outils MCP.
Mais notre outil CLI basé sur les conteneurs était lourd et difficile à inspecter. Chaque jour, j'avais l'impression de me battre contre un compromis entre sécurité et capacité.
Alors on est repartis de zéro et on s'est demandé : « De quoi a-t-on vraiment besoin pour se sentir à l'aise en utilisant des agents IA locaux? » Et c'est ainsi qu'on a conçu quelque chose de fondamentalement différent : Greywall. Un bac à sable logiciel qui agit comme couche intermédiaire entre une application (par exemple un agent) et les ressources du système d'exploitation.
Ce patron de conception permet aux utilisateurs d'outils CLI pour agents d'avoir une visibilité et des contrôles granulaires en temps réel, tout en utilisant leurs environnements de développement habituels. Je crois que ce patron ouvre la voie à une sorte d'« intergiciel IA ». Soudainement, utiliser le bac à sable devient stimulant plutôt que pénible, parce qu'il ouvre de nouvelles avenues d'exploration.
C'est alors que j'ai découvert le domaine du contrôle de l'IA (AI Control) et réalisé qu'on travaillait peut-être sur le même problème.
​​—
​Où / Where
UQAM - Pavillon President-Kennedy
PK-R605 (ground floor)
​Contact host if you need assistance or for questions

This presentation examines the persuasive effects of generative AI and the main strategies for mitigation. It draws on original experiments that measure the impact of deepfakes, automated influence, and AI assisted propaganda. The session concludes with the unveiling of a new AI powered application for detecting misinformation.

Biography: Jean-François Godbout is a Professor of Political Science at the Université de Montréal and an Associate Academic Member of Mila, where he leads research programs on AI driven misinformation, persuasion, and information integrity. His work combines computational methods, large scale experiments, and applied AI systems, including the development of advanced tools for detecting and mitigating online manipulation. You can find out more about his work here: https://jf-godbout.github.io/

--

Cette présentation examine les effets persuasifs de l'IA générative et les principales stratégies d'atténuation. Elle s'appuie sur des expériences originales mesurant l'impact des hypertrucages (deepfakes), de l'influence automatisée et de la propagande assistée par IA. La séance se conclut par le dévoilement d'une nouvelle application propulsée par l'IA pour la détection de la désinformation.

Biographie : Jean-François Godbout est professeur de science politique à l'Université de Montréal et membre académique associé de Mila, où il dirige des programmes de recherche sur la désinformation, la persuasion et l'intégrité de l'information à l'ère de l'IA. Ses travaux combinent méthodes computationnelles, expériences à grande échelle et systèmes d'IA appliqués, y compris le développement d'outils avancés pour détecter et contrer la manipulation en ligne. Vous pouvez en apprendre davantage sur ses travaux ici : https://jf-godbout.github.io/

​Où / Where
UQAM - Pavillon President-Kennedy
PK-1140 (first floor)
​Contact host for any questions