Les Appenzellois sauront où leur administration emploie l’IA

A la différence des résidents de la plupart des cantons, les habitants d’Appenzell Rhodes-Intérieures sauront où leur administration emploie l’IA. Le canton alémanique informe depuis peu de manière transparente sur l'utilisation de systèmes algorithmiques dans l'administration. A cet effet, le département de l'administration numérique a publié fin juin 2024 un répertoire qui recense tous les systèmes utilisés. Les autorités ont une grande responsabilité vis-à-vis des personnes concernées par les décisions, en particulier lorsqu'elles utilisent des systèmes de décision automatisés, explique le canton. A l'avenir, les départements devront informer la chancellerie lorsque de nouveaux systèmes seront utilisés. La liste sera complétée au fur et à mesure.

Par systèmes décisionnels automatisés, le département entend des systèmes algorithmiques qui prennent, recommandent ou influencent des décisions concernant des personnes. Un système algorithmique qui mesure par exemple la couverture du sol n'entre pas dans cette définition. Le répertoire fournit des informations sur les modèles sous-jacents, les développeurs, l'utilisation prévue et l'analyse d'impact. A l'heure actuelle, l'administration n'utilise pas encore de systèmes décisionnels automatisés, selon le registre. 

L’antenne suisse d'Algorithmwatch, à l'initiative d’une récente pétition contre les discriminations algorithmiques, salue la décision d'Appenzell Rhodes-Intérieures. Sur Linkedin, l’association précise que c'est précisément pour la création de tels registres qu’elle s’engage depuis de nombreuses années, car ils constituent «un premier pas pour garantir une utilisation responsable des algorithmes et de l'IA par l'administration publique».