Digital Circle: meet-up avec Eraneos sur les liens entre IA et cybersécurité
Ce 3 décembre, les responsables IT du Digital Circle ont participé à une rencontre organisée par Eraneos, sur le campus Unlimitrust. Les présentations, animées par des consultants et la start-up Panop, ont exploré les défis de cybersécurité posés par la GenAI, ainsi que les opportunités offertes par l’IA dans la lutte contre les cyberattaques.
L'essor de l'intelligence artificielle générative (GenAI) change la donne en matière de cybersécurité. D'une part, ces technologies ouvrent de nouvelles possibilités aux cybercriminels. D'autre part, elles offrent de nouveaux outils pour améliorer la détection des menaces, automatiser les réponses et anticiper les cyberattaques. C'est ce message qui a été au cœur des échanges sur le campus Unlimitrust lors d'une rencontre organisée mardi 3 décembre par Eraneos, sponsor du Digital Circle, et destinée aux CIO membres du cercle.
Après les mots de bienvenue et la présentation du programme par Fabian Zumkehr, Manager chez Eraneos, le consultant Julien Locher a retracé les grandes étapes du développement de l’intelligence artificielle. Il a rappelé que la GenAI constitue une sous-catégorie du deep learning, lui-même intégré dans le champ plus large du machine learning.
Pilier incontournable de la cybersécurité
Les technologies d’IA sont aujourd'hui un pilier incontournable de la cybersécurité, a ensuite souligné le consultant Stéphane Perroud. Elles permettent d’automatiser certaines tâches, d’identifier des activités suspectes s’écartant des schémas comportementaux habituels d’un environnement IT, d’optimiser la gestion des menaces et même d’initier automatiquement des actions en réponse aux incidents.
Des défis à relever
Cependant, l’IA générative pose plusieurs défis aux entreprises qui l’adoptent. Les LLM, au cœur des agents conversationnels comme ChatGPT, sont exposés à des attaques variées. Stéphane Perroud a notamment évoqué l’empoisonnement des données, technique visant à altérer la capacité du modèle à répondre correctement à des requêtes spécifiques. Il a également mis en garde contre les risques liés à la tendance des outils GenAI à générer des informations incorrectes, communément appelées hallucinations.
La plateforme SaaS de Panop unifie la gestion de la posture de sécurité
La soirée s’est poursuivie avec le pitch de Sergi Cuny Lafond, cofondateur de la start-up romande Panop. Il a rappelé aux CIO présents que l’IA représente désormais une nouvelle dimension dans la surface d’attaque des entreprises. Face à un environnement en constante évolution, les organisations peinent parfois à maintenir une visibilité et un contrôle suffisants sur leurs modèles d’IA, exacerbant les risques liés à l'exposition des données d’entraînement et à leur gestion. En parallèle, les cybercriminels exploitent l’IA pour effectuer des opérations de scraping et d’énumération massive des actifs numériques.
Pour répondre à ces défis, Panop propose une plateforme SaaS qui unifie la gestion de la posture de sécurité, intégrant les risques spécifiques à l’utilisation des outils de GenAI. La solution procède à un scan automatisé des actifs numériques grâce à des technologies d’IA et de machine learning.
Un workshop a succédé aux exposés, donnant l’occasion aux responsables IT d’échanger sur des cas d’usage potentiels liés à l’application des principes de cybersécurité face aux risques posés par la GenAI, ainsi que sur l’exploitation de l’IA pour protéger leurs entreprises contre les cybermenaces. Les échanges se sont poursuivis de manière informelle lors d’un apéro-dinatoire.
