La gouvernance de l’IA au menu du Digital Circle

Les CIO du Digital Circle se sont réunis hier 18 septembre pour un meet-up consacré au thème très actuel de l’IA responsable. La rencontre s’est déroulée sur le campus Unlimitrust, un lieu particulièrement propice à la thématique du jour. Pour aborder la question de la gouvernance de l’IA, le meet-up a pu compter sur les interventions très complémentaires d’Alexandre Jotterand, avocat spécialisé dans le numérique chez id est avocats, et de Sophia Ding et Christina Meyer, œuvrant toutes deux au sein de la cellule «numérique responsable» mise en place à la Poste Suisse.

Les règlementations à suivre, les cadres de gouvernance à exploiter

Alexandre Jotterand a commencé par relever les caractéristiques et les potentiels dommages spécifiques aux systèmes IA justifiant une approche distincte par rapport à d’autres technologies. Il a ensuite abordé la question de la règlementation qui pourrait voir le jour en Suisse et des orientations qu’elle pourrait prendre: imposition de règles à l’européenne ou pari sur l’auto-régulation, principes éthiques ou prévention des risques, règles transversales ou sectorielles.

Alexandre Jotterand, avocat spécialisé en technologies, id est avocats.

L’avocat spécialisé a également présenté plusieurs règlementations actuelles avec des focus sur la Convention-cadre sur l'IA du Conseil de l'Europe que la Suisse pourrait prochainement ratifier et sur l’AI Act européen. S’agissant de cette règlementation, il en a expliqué la classification des systèmes selon les risques et la distinction entre les rôles de fournisseur et de déployeur - les entreprises étant susceptibles d'assumer l'un et l'autre rôle selon leur usage. 

Pour conclure, Alexandre Jotterand a appelé les CIO et leurs entreprises à anticiper les règlementations, mais aussi à développer la littératie IA dans leur organisation et à se doter d’une gouvernance forte en n’hésitant pas à recourir aux déjà très nombreux frameworks sur ces questions, à l’instar de celui élaboré par le NIST (National Institute of Standards and Technology) américain.

> Sur le sujet, l’article d’Alexandre Jotterand publié dans le hors-série IA d’ICTjournal: Une régulation de l'intelligence artificielle en pleine effervescence

La Poste partage sa pratique émergente en matière d'IA responsable

Pour illustrer comment une organisation met concrètement en place une gouvernance de l’IA, le Digital Circle a pu compter sur les témoignages de Sophia Ding et Christina Meyer, toutes deux actives au sein de la cellule mise en place récemment au sein d l’IT de la Poste Suisse - sans doute l’une des rares entreprises suisses à disposer actuellement d’une telle structure. 

Les deux responsables ont relevé les atouts d’une démarche d’éthique numérique dans une organisation - confiance, réputation, satisfaction des employés, différenciation, etc. - et expliqué comment traduire les valeurs éthiques d’une IA responsable en caractéristiques techniques des systèmes.

Christina Meyer, spécialiste éthique numérique à la Poste Suisse.

Sophia Ding et Christina Meyer ont ensuite illustré la démarche du géant jaune à l’aide de deux cas concrets. D’abord, l’introduction d’un système IA pour déterminer des colis nécessitant de passer par une procédure de dédouanement. L’approche IA responsable ayant conduit à faire que le système se limite à des recommandations, la décision restant le fait du collaborateur (human-in-the-loop) et, d’autre part, à privilégier une solution développée à l’interne plutôt qu’achetée de manière à pouvoir expliquer les recommandations produites par le système. 

Ensuite, comme deuxième cas d’illustration, les responsables de la Poste ont expliqué certaines mesures mises en oeuvre pour l’introduction de Copilot de Microsoft, à l'instar d'une formation que les employés sont tenus de suivre suivre avant de pouvoir utiliser l’assistant GenAI de Microsoft.

De manière plus transverse, l’équipe numérique responsable de la Poste a également mis en oeuvre un questionnaire où les responsables de projets IA doivent documenter les questions éthiques identifiées, ainsi qu’un processus d’escalation centralisé permettant aux data scientists de faire remonter des problèmes et éventuels conflits entre les intérêts éthiques et commerciaux.

> Pour en savoir plus sur l’éthique numérique au sein de la Poste

Exercice pratique pour les membres du Digital Circle.

Pour terminer leur intervention, Sophia Ding et Christina Meyer ont invité les CIO à expérimenter par eux mêmes une fiche utilisée à la Poste pour relever les enjeux éthiques sur la base d’un projet IA fictif: une application alertant les clients de la Poste des zones géographiques où les vols de colis sont les plus nombreux…

Comme de coutume, le Digital Meet-up s’est conclu par un moment de convivialité pour poursuivre les échanges.