OpenAI hésiterait à introduire un marquage des textes produits par ChatGPT

OpenAI développe depuis environ un an un système de filigrane pour marquer les textes générés par ChatGPT, ainsi qu'un outil de détection, rapporte le média The Verge se basant sur des informations du Wall Street Journal. OpenAI hésiterait toutefois à lancer le système, alors que, selon un sondage de l’éditeur, environ 30% des utilisateurs de ChatGPT utiliseraient moins le chatbot si ce marquage était mis en œuvre. La méthode consisterait à permettre la détection d'un modèle constant dans la façon qu’a l’IA générative de contruire ses phrases. 

Peu après la publication de l’article du Wall Street Journal, OpenAI a confirmé sur son blog être en train de travailler sur un système de filigrane de texte. De même que sur d’autres méthodes d'identification de textes générés automatiquement telles que les métadonnées. En ce qui concerne le filigrane de texte, OpenAI indique que ses équipes ont mis au point une méthode qui est encore en développement. Celle-ci serait très précise et efficace contre les manipulations ponctuelles, telles que la paraphrase, mais elle serait moins robuste contre les manipulations plus globales, affirme OpenAI. Par exemple, l'utilisation de systèmes de traduction, la réécriture avec une autre IA générative ou l'insertion de caractères spéciaux entre chaque mot et leur suppression pourraient facilement permettre de contourner ce système de marquage. OpenAI craint par ailleurs que le système puisse stigmatiser des groupes de population, par exemple les non-anglophones utilisant l'IA en tant qu'outil d'écriture. 

Plusieurs initiatives existent pour détecter les contenus générés par l’IA, dont celle impulsée par Adobe en vue de tirer parti du hachage cryptographique des actifs pour fournir des signatures vérifiables et infalsifiables. Adobe, Google, Meta et OpenAI travaillent également ensemble, avec d'autres entreprises, au sein de la Content Provenance and Authenticity (C2PA) pour la mise en place d’un système de métadonnées renseignant sur l’origine et la nature des contenus en ligne.