Un logiciel pour démasquer les deepfake prend forme à l'EPFL
Un laboratoire de l’EPFL et la start-up suisse Quantum Integrity planchent sur un logiciel de détection des deepfake, ces vidéos modifiées par une IA. Soutenue par un financement Innosuisse dès le 1er octobre, la solution pourrait être opérationnelle dès 2020.
Le Groupe de traitement du signal multimédia à l’EPFL et la jeune pousse suisse Quantum Integrity, établie au parc de l’innovation de l’école polytechnique, travaillent depuis deux ans sur un détecteur de deepfake, ces images créées de toute pièce par une intelligence artificielle. Afin de booster le développement du logiciel, ils ont reçu un financement d’Innosuisse, l’agence suisse pour l'encouragement de l’innovation, qui débutera le 1er octobre. «Quantum Integrity a déjà un logiciel opérationnel qui est commercialisé. Notre travail visera à étoffer ce détecteur afin de le rendre plus universel», souligne Touradj Ebrahimi, directeur du groupe de recherche de l’EPFL, qui espère que la solution sera opérationnelle dès 2020.
Pour façonner son système d’apprentissage, la solution en phase d’élaboration s’appuie sur une grande collection de données réelles accumulées par Quantum Intergrity. À terme, la plateforme permettra d’uploader une vidéo pour savoir rapidement quels éléments ont été modifiés ou ajoutés. En outre, la solution peut être adaptée à différents types de support, des vidéos aux photos industrielles, en passant par la falsification de documents. Difficile d’en apprendre plus sur la technologie utilisée, car le risque de plagiat est trop grand selon l’EPFL et la start-up suisse. Ils soulignent cependant «qu’il s’agit d’une intelligence artificielle qui permet de rester en permanence en phase avec l’amélioration des trucages».
Les deepfake, un problème pour l’industrie
La propagation des deepfake et leur impact potentiel sur la légitimité de l’information suscitent toujours plus d’inquiétudes. Connues principalement sous l’angle de l’usurpation d’identité, ces vidéos trafiquées touchent également l’industrie, les douanes et les assurances, explique l’EPFL. Par exemple, il n’est pas rare que de la marchandise soit ajoutée ou enlevée avant son départ en cargo. Or la validation des transactions s’établit souvent sur la base de photos qui peuvent être truquées.
Au début du mois de septembre, Facebook annonçait son projet de fabriquer ses propres deepfake afin d’aider les chercheurs à construire et perfectionner leurs outils de détection. Le réseau social va également investir plus de 10 millions de dollars dans ce projet, doublé d’un défi qui invite les participants à créer de nouveaux moyens pour détecter et prévenir les contenus falsifiés. L’EPFL songe à y participer. «Il faudra cependant que nous en sachions davantage sur les procédures d’évaluation et les conditions de participation, notamment les droits de propriété intellectuelle liés», souligne Touradj Ebrahimi.
