Des algorithmes dans les administrations publiques

Fin 2019, des chercheurs ont expérimenté un algorithme pour répartir les élèves dans les écoles de la ville de Zurich. L’objectif des spécialistes du Zentrum für Demokratie Aarau n’était nullement d’automatiser le travail des fonctionnaires de la ville, mais bien d’améliorer l’égalité des chances des écoliers. Sur la base de plusieurs facteurs (milieu social, itinéraire pour aller à l’école, etc.), leur algorithme détermine l’établissement scolaire dans lequel se rendront les enfants de tel ou tel quartier. L’outil permet ainsi d’éviter la ghettoïsation et d’atténuer les disparités dans la composition sociale des écoles de la ville.

Le projet pilote zurichois n’est pas un cas isolé de système de prise de décision algorithmique utilisé dans une administration suisse. Les applications se multiplient dans la santé, les assurances sociales ou la police comme le montre une analyse d’AlgorithmWatch.

Intérêt des administrations et des populations

Si l’intérêt des administrations publiques pour ces technologies grandit, c’est que leur potentiel est au moins aussi important que dans le secteur privé. Plusieurs raisons l’expliquent.

D’un côté, les administrations publiques sont le lieu d’activités cognitives parfois répétitives se prêtant bien à l’emploi d’algorithmes et elles sont sous pression de gagner en efficience. A cela s’ajoute que les gouvernements doivent prendre des décisions à fort impact dans un environnement complexe avec d’innombrables facteurs, pour lesquelles l’IA peut être d’un grand secours.

De l’autre côté, les populations ne sont pas opposées à voir les administrations user d’algorithmes. Selon une étude du Center for the governance of change, un résident européen sur quatre serait même en faveur de laisser l’intelligence artificielle prendre des décisions importantes sur la conduite de son pays – ce qui peut aussi s’interpréter comme une défiance à l’égard des gouvernants1. Une autre étude signale que les populations du continent trouvent l’IA utile pour prédire des accidents de circulation (91%), leur santé (87%) ou leurs problèmes financiers2. Ils sont en revanche très perplexes quant à sa capacité de ressentir des émotions ou de rendre un verdict lors d’un procès.

Ce cadre propice et cette disposition plutôt favorable des populations expliquent l’agenda IA de nombreux Etats. Selon une enquête de la Commission européenne incluant la Suisse, deux tiers des pays européens ont alloué des fonds à l’adoption de l’IA au sein de leur gouvernement3. Alors que les compétences du domaine font souvent défaut, de nombreux gouvernements développent des programmes de formation en IA pour leurs fonctionnaires, créent des unités chargées de stimuler l’emploi de ces technologies ou encore mettent en place des bacs à sable pour expérimenter ces technologies. Enfin, la plupart des Etats du continent se sont dotés d’une stratégie nationale en matière d’IA mettant parfois l’accent sur son usage dans le secteur public, parfois sur son impact sociétal, parfois sur son importance pour l’innovation et l’économie, comme c’est le cas de la stratégie Suisse dévoilée fin 2020.

Technologies, domaines d’applications, tâches gouvernementales

L’IA est donc déjà présente dans le secteur public de nombreux pays, comme le montre la vaste étude menée par des chercheurs européens sur 230 initiatives IA , dont 12 en Suisse3. Il en ressort qu’un tiers des initiatives concernent les services publics en général, devant la santé, l’économie et le maintien de l’ordre. Côté technologies, les chatbots et autres assistants virtuels sont les systèmes intelligents les plus courants dans le secteur public (23%), avant l’analyse prédictive (16%), tandis que seulement 7% des projets recourent au machine learning.

L’analyse la plus intéressante de l’étude propose de classer les déploiements IA en fonction de cinq types de tâches gouvernementales qu’ils aident à accomplir. Une bonne manière de distinguer les usages techniques dictés par l’efficience, d’usages plus disruptifs susceptibles de modifier profondément la gestion des affaires publiques:

1. Services publics et engagement. 38% des initiatives IA ont pour objet la fourniture de services aux citoyens et aux entreprises, ou la facilitation ou la communication avec le grand public. A l’instar des chatbots déployés par certaines administrations cantonales pour endiguer les demandes qui leur parviennent (service de l’assurance sociale en Argovie, mesures de soutien aux entreprises impactées par la pandémie dans les cantons de Vaud et Genève). Mais aussi des projets plus inédits comme la plateforme belge de participation citoyenne Citizenlab qui utilise l’IA pour analyser et regrouper les propositions soumises aux collectivités publiques.

2. Gestion interne. 20% des utilisations de l’IA servent à faciliter la gestion de l’organisation interne, comme les ressources humaines, les achats, les systèmes IT ou d’autres services publics. A l’instar de l’administration zurichoise qui recourt à un robot logiciel (RPA) s’appuyant sur l’IA pour automatiser le traitement des demandes de chômage partiel.

3. Application de la loi. 20% des cas d’utilisation de l’IA concernent l’application de la réglementation existante, comme l’identification et la hiérarchisation des cibles nécessitant une mise en application ou des inspections. Depuis 2015, la police zurichoise utilise par exemple l’outil Precobs pour identifier des patterns et prédire le lieu des prochains cambriolages. Ou l’Estonie qui analyse les images satellites à l’aide de l’IA pour déterminer les champs fauchés et ainsi les agriculteurs bénéficiant de subventions.

4. Recherche, analyse et suivi de la réglementation. 17% des déploiements servent à informer les processus d’élaboration des politiques publiques, comme la collecte, le suivi et l’analyse des données pour aider les décisions et les fonder sur des preuves. L’étude cite l’exemple de la ville de Tallinn qui utilise des caméras exploitant l’IA pour reconnaître le type et le nombre de véhicules qui circulent et ainsi améliorer la planification des transports urbains.

5. Adjudication. Enfin, 5% seulement des systèmes d’IA utilisés par les administrations publiques aident ou servent à décider des avantages ou droits accordés aux citoyens. L’expérimentation conduite à Zurich pour équilibrer la composition sociale des écoles de la ville appartient typiquement à cette catégorie.

Les risques de la gestion publique algorithmique

Si les usages potentiels sont nombreux, l’intérêt du secteur public pour l’IA est toutefois tempéré par des craintes éthiques et sociétales. Deux cas emblématiques d’utilisation de l’IA par des administrations européennes ont défrayé la chronique ces derniers mois. En février 2020, un tribunal néerlandais a ordonné au gouvernement de cesser d’utiliser un logiciel servant à établir des listes de personnes suspectes de fraude au logement et à la sécurité sociale, car l’outil catégorisait des fraudeurs potentiels sans preuve.

L’été dernier, c’est un algorithme britannique qui a fait polémique. Dans l’impossibilité de conduire les examens de fin de secondaire en présentiel en raison de la pandémie, le gouvernement a fait appel aux pronostics des enseignants, qui ont ensuite été ajustés à l’aide d’un processus algorithmique reposant notamment sur les notes obtenues dans le passé par les élèves de la même école. Résultat, 40% des élèves ont vu leur pronostic abaissé forçant le ministère de l’éducation à faire machine arrière.

Ces exemples illustrent le caractère sensible des algorithmes employés dans le secteur public. Les questions de transparence, d’explicabilité, de responsabilité, d’équité et de contrôle humain y sont encore plus importantes que dans le secteur privé. Ainsi que le rappellent les auteurs d’un rapport sur le sujet4: «Un consommateur peut généralement choisir de ne pas utiliser un réseau social particulier pour éviter d’être soumis aux algorithmes qu’il emploie, mais un citoyen n’a pas d’autre choix que d’avoir affaire aux fonctions essentielles de l’administration publique. On ne peut pas «supprimer son compte» du système judiciaire».

(*) Références:

1) European Tech Insights 2019, Madrid: Center for the Governance of Change, 2019

2) Artificial Intelligence: what consumers say, BEUC, 2020

3) Overview of the use and impact of AI in public services in the EU, European Commission’s Joint ­Research Centre, 2020

4) Trigger Project, D4.3 Review of governance regimes and EU initiatives concerning AI (working paper), EPFL-IRGC, 2020