Le Digital Trust Label évolue pour inclure les problèmes spécifiques à la GenAI
La Swiss Digital Initiative révise le catalogue de critères de son label de confiance numérique, désormais adapté aux défis de l'IA générative.
La fondation Swiss Digital Initiative (SDI) annonce la publication d’une nouvelle version du catalogue de critères du Digital Trust Label, son label de confiance numérique.
Avec cette mise à jour du catalogue de critères, le label est désormais prêt pour l'IA, explique Doris Leuthard, présidente du Conseil de fondation de la SDI, ajoutant que cette révision «comble le fossé actuel entre la demande croissante d'IA et l'évolution de la réglementation». L’objectif étant aussi de renforcer la confiance des utilisateurs, notamment lors de la mise en œuvre de l'IA générative (GenAI), précise l’annonce de la SDI.
S'appuyant sur les critères éprouvés du DTL, les nouveaux standards ciblent ainsi les défis spécifiques posés par l'IA et la GenAI. Revus et modifiés par le comité d'experts du label, les critères comprennent la transparence, la gestion des risques, l'atténuation des biais algorithmiques et les considérations éthiques liées aux données d'apprentissage qui nourrissent les modèles d’IA.
Plus spécifiquement, le catalogue de critères indique que «le prestataire de services doit communiquer clairement les limites des systèmes d'IA, en veillant à ce que les utilisateurs soient conscients des contextes dans lesquels l'IA pourrait ne pas être fiable». En outre, les interfaces de service doivent exclure les techniques manipulatrices («dark patterns») et toute tendance à l’anthropomorphisme. Par ailleurs, «en cas d'utilisation d'algorithmes basés sur l'IA et, en particulier, d'algorithmes de prise de décision automatisée ou d'algorithmes de génération de contenu, le service doit prévoir des mécanismes spécifiques pour évaluer leur robustesse, leur résilience et leur précision». Le site de la SDI publie le catalogue complet des critères.
Les organisations qui ont déjà reçu le DTL pour un service numérique comprennent Cisco, Credit Exchange, Julius Baer, Kudelski IoT, OneLog, PeopleWeek, Swisscom, Swiss Post, Swiss Re, Tresorit UNICEF et Wefox.
