Google modifie une publicité pour Gemini après une erreur de l'IA sur le gouda

Google a dû modifier une publicité pour son outil d'intelligence artificielle Gemini, après qu'un blogueur a signalé une erreur factuelle. La publicité, conçue pour être diffusée lors du Super Bowl, met en scène un propriétaire de petite entreprise utilisant Gemini pour rédiger une description de site web sur le gouda. L’IA affirmait dans un premier temps que cette variété de fromage représentait «50 à 60% de la consommation mondiale de fromage».

Cependant, le blogueur Nate Hake a souligné sur X que cette statistique était erronée. En réponse, Jerry Dischler, cadre chez Google, a précisé qu’il ne s’agissait pas d’une «hallucination» de l’IA, mais plutôt d’une conséquence du fait que Gemini s’appuie sur des sources web potentiellement inexactes. Selon The Verge, l’outil aurait repris cette statistique depuis un site appelé Cheese.com, connu pour ses contenus optimisés pour le référencement mais parfois peu fiables.

Dans la version rééditée de la publicité, visible sur Youtube, la réponse de Gemini a été modifiée: l’IA se contente désormais d’indiquer que le gouda est «l’un des fromages les plus populaires au monde», sans mentionner de chiffre précis. Quant au propriétaire de l’entreprise mis en avant dans la publicité, il avait initialement intégré cette information erronée sur son site web avant de la supprimer une fois l’erreur révélée.