Quand ChatGPT bloque sur un nom: l'énigme David Mayer

David Mayer a récemment fait le buzz sur les médias sociaux: des utilisateurs ont remarqué que ChatGPT était incapable de générer ce nom. Sur Reddit, certains ont observé qu'à chaque prompt intégrant «David Mayer», le chatbot se figeait, refusait d'obtempérer ou produisait des réponses énigmatiques telles que «Quelque chose semble avoir mal tourné», quand il ne s'arrêtait pas simplement au milieu de la phrase après le mot «David». 

Un héritier de la famille Rothschild concerné?

Ce dysfonctionnement insolite soulève un certain nombre de questions, notamment en lien avec la privacy, le traitement des données opéré par les développeurs de LLM et la nature imprévisible de ces technologies. Sur les réseaux sociaux, d'aucuns ont émis l'hypothèse que la personne concernée pourrait être David Mayer de Rothschild, aventurier britannique, écologiste, producteur de films et héritier de la fortune des Rothschild. Cependant, l’intéressé a affirmé au Guardian qu’il ne pouvait pas être concerné, déplorant les théories complotistes que le dysfonctionnement a fait émerger à nouveau au sujet de sa famille. 

Le «droit à l'oubli», explication plausible

Une explication plausible du phénomène pourrait résider dans les règles de protection de la vie privée du RGPD au Royaume-Uni et dans l'Union européenne. La politique de confidentialité d'OpenAI en Europe décrit un processus connu sous le nom de «droit à l'oubli», qui permet aux individus de demander la suppression de leurs données personnelles. Cependant, le nom «David Mayer» ne semble pas  soumis à des restrictions sur les moteurs de recherche ou sur les principaux concurrents de ChatGPT. Interrogée à ce propos par le Guardian, OpenAI a refusé de dire s’il existe un lien avec une demande de «droit à l'oubli». 

OpenAI évoque un nom «flagué» par erreur

La restriction constatée avec «David Mayer» n’est toutefois pas un cas isolé. D'autres noms déclenchent des erreurs similaires sur ChatGPT. Selon 404Media, deux des noms signalés (Jonathan Zittrain et Jonathan Turley) se sont avérés être les auteurs de publications en rapport au procès sur les droits d'auteur intenté par le New York Times à l'encontre d'OpenAI et de Microsoft. Cela dit, ce procès mentionne des milliers d'articles rédigés par de nombreux auteurs, dont les noms sont traités sans problème par ChatGPT… 

Répondant au Guardian, OpenAI a attribué le cas «David Mayer» à un problème de système. L'un de leurs outils aurait «flagué» par erreur ce nom comme sensible, l’empêchant d'apparaître dans les réponses. OpenAI a depuis résolu le problème, a constaté ICTjournal, et les requêtes comprenant le nom «David Mayer» génèrent désormais des réponses de manière normale. Toutefois, d'autres noms signalés sur les médias sociaux continuent de provoquer des messages d'erreur.