A quoi font attention les fonctionnaires fédéraux en utilisant ChatGPT & co?

L’emploi d’un chatbot dopé à l'IA générative n’est pas sans risques. Les grands modèles de langage peuvent par exemple mettre en danger la sécurité des systèmes et la protection des données. Les organisations ont commencé à en prendre conscience. C'est ainsi que l'administration fédérale vient tout juste de publier un aide-mémoire, afin de guider ses collaborateurs dans l’utilisation d’outils de GenAI disponibles sur internet. 

Le document de la Confédération liste les usages autorisés ou non. Les interdictions ont pour la plupart un objectif de protection des données. Il n’est ainsi pas permis de s’en servir pour résumer des documents non-publics, ni de traduire un CV ou de saisir telle quelle une demande concrète reçue d’un correspondant. 

Du côté des tâches autorisées, certaines pourraient surprendre. Les fonctionnaires fédéraux ont par exemple le droit de se familiariser avec un sujet à l'aide des outils d’IA générative, une utilisation que l'administration fédérale estime «analogue à Google ou Wikipédia». Alors même que le document rappelle en introduction que les outils d’IA sont entraînés à l’aide de grandes quantités de données aux sources le plus souvent non précisées. «Il y a donc un certain risque que les probabilités calculées sur cette base soient obsolètes, trompeuses, discriminatoires, voire tout simplement erronées», avertit cet aide-mémoire.  Autre utilisation tolérée: le résumé de textes publiés (rapports, etc.). 

L’administration fédérale attend en outre que ses employés se considèrent responsables de l’utilisation des résultats obtenus. «Vous devez à tout moment pouvoir justifier une décision que vous avez prise sur la base des résultats obtenus à partir d’un outil d’IA générative», indique encore le document.

Pour en savoir davantage sur les risques liés à la GenAI, lire notre dossier >>
«GenAI & cybersécurité»