Les devoirs de l’administration à l’ère de l’IA

Rares sont pour l’heure les administrations publiques suisses à recourir à des algorithmes d’intelligence artificielle pour remplir leur mission. Nonobstant, de multiples applications s’y développent, tant pour gagner en efficacité que pour prendre des décisions complexes intégrant un grand nombre de facteurs. Les algorithmes déployés dans le secteur public étant de nature à faire des choix lourds de conséquences pour un grand nombre de personnes, ils sont assortis de promesses et de craintes exacerbées.

Du côté des promesses, les administrations peuvent y voir un moyen de prendre des décisions plus justes et adaptées à large échelle. Et les populations apprécier un traitement efficace «objectif» fondé sur les données, dans un contexte de défiance à l’égard des autorités.

Du côté des craintes, les administrations peuvent s’inquiéter de voir leurs compétences peu à peu déléguées aux outils intelligents. Et les populations s’effrayer d’être l’objet de décisions algorithmiques opaques, d’une sorte de bureaucratie 2.0 à laquelle il serait difficile de s’opposer.

Face à cette ambivalence et alors que les déploiements d’algorithmes vont sans doute se poursuivre dans le secteur public, deux types de mesures s’imposent. D’abord les administrations doivent être totalement transparentes quant aux systèmes IA qu’elles utilisent. Les populations doivent savoir quelles décisions s’appuient sur ces outils, comment elles sont prises, et comment s’y opposer. C’est ce qu’ont fait récemment les villes d’Amsterdam et d’Helsinki en établissant un registre IA.

Ensuite, les administrations doivent monter en compétences. Il ne suffit pas d’acheter des outils intégrant des capacités IA. Si leurs décisions sont parfois supportées voire prises par des algorithmes, les administrations doivent être en mesure de comprendre ces choix, de les expliquer et de répondre à ceux qui s’y opposeraient. Il y va de la légitimité même des administrations publiques.

> Pour en savoir plus, le dossier d'ICTjournal sur l'intelligence artificielle dans le secteur public