L’UE veut prohiber des usages répressifs de l’IA, comme la surveillance de masse et la police prédictive

Les députés européens ont adopté une résolution limitant l’usage de l’intelligence artificielle par les autorités répressives et judiciaires. Pour les parlementaires, les outils intelligents employés par la police (reconnaissance faciale, surveillance automatisée, police prédictive, etc.) peuvent manquer de fiabilité et de précision et risquent de porter atteinte à des droits fondamentaux tels que la présomption d’innocence, en raison notamment de faux positifs de l’opacité des décisions, de discrimination, de boucles de rétroaction, etc.

Les applications de l’IA dans le système judiciaire (fixation des peines, estimation du risque de récidive, etc.) sont elles aussi jugées sévèrement., Les députés européens estimant que ces outils ont conduit à déformer la réalité et à réduire les chances de certaines catégories de personnes.

Pour les parlementaires, le déploiement de l’IA à des fins policières et judiciaires ne se réduit pas à une question de faisabilité technique, mais relève du politique. Ils rappellent que le droit moderne repose sur la réponse à une infraction commise et non pas sur une surveillance préventive de tous les citoyens selon le principe qu’ils seraient potentiellement dangereux.

Limitations et interdictions

Les parlementaires demandent donc d’encadrer et de limiter drastiquement certaines pratiques: les décisions finales doivent notamment être faites par des humains, les personnes soumises aux systèmes IA doivent disposer de voies de recours, et les algorithmes d’identification être transparents, traçables et documentés.

La résolution demande part ailleurs de prohiber la reconnaissance automatisée des individus dans l’espace public, l’emploi de bases de données privées de reconnaissance faciale (à la Clearview), la police prédictive basée sur des données comportementales, et les systèmes d’évaluation de la fiabilité des individus (social score à la chinoise).

«Nous envoyons un message clair: les droits fondamentaux sont irrévocables. Pour la toute première fois, nous appelons à un moratoire sur le déploiement des systèmes de reconnaissance faciale à des fins répressives, ces technologies ayant démontré leur inefficacité et souvent abouti à des résultats discriminants. Nous nous opposons clairement à la police prédictive fondée sur l’utilisation de l’IA ainsi que sur tout traitement des données biométriques conduisant à une surveillance de masse. C’est une énorme victoire pour tous les citoyens européens», déclare le rapporteur Petar Vitanov.

> Le texte de la résolution du Parlement européen du 6 octobre 2021 sur l’intelligence artificielle en droit pénal et son utilisation par les autorités policières et judiciaires dans les affaires pénales

> Pour en savoir plus: notre dossier IA & secteur public