Une IA née à Martigny identifie les vidéos truquées

Une vidéo truquée montrant Mark Zuckerberg a récemment créé le buzz sur la Toile. Réalisée par un groupe d’artistes, le contenu audiovisuel en question met en scène de façon assez réaliste le fondateur de Facebook proférant avoir le contrôle sur des milliards de données volées. L’intéressé n’a jamais prononcé ces mots. Il s’agit en fait d’un exemple supplémentaire de «deepfake», des vidéos créées de toutes pièces en puisant dans des technologies d’intelligence artificielle. Certaines célébrité se sont ainsi retrouvées dans des vidéos truquée publiées sur des sites pornographiques.

Alors que les logiciels servant à créer un deepfake sont de plus en plus efficaces et accessibles, des chercheurs essaie de mettre au point des techniques permettant de détecter ces manipulations. C’est la cas d’une équipe de l'institut Idiap de Martigny, qui vient de recevoir le prix du meilleur article scientifique décerné par l’AI Fondation lors de la conférence internationale sur l'apprentissage machine. Selon cette fondation, ces vidéos truquées sont considérées comme réelles par près d’un tiers de sujets humains non formés.

Les travaux du groupe Biometrics Security & Privacy de l’Idiap se concentrent sur le développement de modèles de machine learning visant à détecter les incohérences entre l’audio et la vidéo. En nourrissant leurs algorithmes de nombreux exemples, ceux-ci apprennent à identifier les écarts entre le son d'une piste et les mouvements des lèvres de la personnes dont l'image a été détournée.

Grâce à ces recherches et d’autres IA développées pour détecter les images photoshopées, l’ère du deepfake et de la manipulation de photos est peut-être bientôt révolue.