La start-up zurichoise Latticeflow veut améliorer la détection de deepfakes audio
Spin-off de l’EPFZ, LatticeFlow annonce une innovation pour détecter les deepfakes audio avant les élections américaines. Ce nouvel outil vise à améliorer la fiabilité des systèmes d’identification des voix synthétiques générées par IA.
LatticeFlow, start-up suisse active dans le domaine de l'intelligence artificielle et de la sécurité des données, a annoncé une innovation en matière de détection des deepfakes. La spin-off de l’EPFZ introduit l’outil LatticeFlow AI Audio, qui se destine aux développeurs d’outils de détection de contenus audiovisuels manipulés. L’objectif de la jeune pousse est de contribuer à la lutte contre la désinformation, notamment dans le cadre des prochaines élections US, afin d'améliorer les capacités à identifier les voix de synthèse générées par IA imitant celles de personnalités réelles. On sait par exemple que des électeurs américains ont déjà été victimes de deepfake audio, en recevant des appels téléphoniques avec au bout du fil la voix simulée de Joe Biden.
«LatticeFlow AI Audio est le seul produit du secteur capable de trouver et d'identifier automatiquement les données audio de l'IA et les erreurs de modèle, ce qui permet à nos clients de développer rapidement des applications de détection de deepfakes plus précises», explique Petar Tsankov, cofondateur et CEO de LatticeFlow. Le nouvel outil de la start-up zurichoise identifie et corrige les vulnérabilités critiques des outils de détection de deepfake, affirme l'annonce de la spin-off de l’EPFZ. Lors d’une phase de test, la technologie en question a permis d’identifier les failles d’un outil du marché, qui permettait à 20% des échantillons de voix truquées de contourner le détecteur.
A noter que LatticeFlow a déjà à son actif des collaborations significatives. On se souvient qu’en août 2023, la société a annoncé la création d'un outil de diagnostic des IA de l'armée américaine.
