What hackers talk about when they talk about AI: diffusion of innovation

What hackers talk about when they talk about AI: Early-stage diffusion of a cybercrime innovation
Talk by Benoît Dupont, Canada Research Chair in Cyber-resilience, scientific director of the Human-Centric Cybersecurity Partnership, and full professor at the School of Criminology at the University of Montréal.

Abstract: The rapid expansion of artificial intelligence (AI) is raising concerns about its potential to transform cybercrime. Beyond empowering novice offenders, AI stands to intensify the scale and sophistication of attacks by seasoned cybercriminals. This paper examines the evolving relationship between cybercriminals and AI using a unique dataset from a cyber threat intelligence platform. Analyzing more than 160 cybercrime forum conversations collected over seven months, this research reveals how cybercriminals understand AI and discuss how they can exploit its capabilities. Their exchanges reflect growing curiosity about AI’s criminal applications through legal tools and dedicated criminal tools, but also doubts and anxieties about AI’s effectiveness and its effects on their business models and operational security. The study documents attempts to misuse legitimate AI tools and develop bespoke models tailored for illicit purposes. Combining the diffusion of innovation framework with thematic analysis, the presentation provides an in‑depth view of emerging AI‑enabled cybercrime and offers practical insights for law enforcement and policymakers.

***

Présentation par Benoît Dupont, Titulaire de la Chaire de recherche du Canada en cyber-résilience, directrice scientifique du Partenariat pour une cybersécurité centrée sur l'humain et professeure titulaire à l'École de criminologie de l'Université de Montréal.

Résumé: L'expansion rapide de l'intelligence artificielle (IA) soulève des inquiétudes quant à son potentiel à transformer la cybercriminalité. Au-delà du fait qu’elle augmente les capacités des délinquants novices, l'IA risque d'intensifier l'ampleur et la sophistication des attaques menées par des cybercriminels chevronnés. Cet article examine l'évolution de la relation entre les cybercriminels et l'IA à l'aide d'un ensemble de données unique provenant d'une plateforme de renseignements sur les cybermenaces. Après avoir analysé plus de 160 conversations issues de forums consacrés à la cybercriminalité et recueillies sur une période de sept mois, cette étude révèle comment les cybercriminels appréhendent l'IA et discutent de la manière dont ils peuvent exploiter ses capacités. Leurs échanges reflètent une curiosité croissante pour les applications criminelles de l'IA à travers des outils légaux et des outils criminels dédiés, mais aussi des doutes et des inquiétudes quant à l'efficacité de l'IA et à ses effets sur leurs modèles économiques et la sécurité opérationnelle. L'étude documente les tentatives d'utilisation abusive d'outils d'IA légitimes et de développement de modèles sur mesure adaptés à des fins illicites. Combinant le cadre théorique de la diffusion de l'innovation et l'analyse thématique, la présentation offre une vision approfondie de la cybercriminalité émergente facilitée par l'IA et propose des pistes d'intervention pratiques aux forces de l'ordre et aux décideurs politiques.