Microsoft lance la chasse aux bugs touchant l’outil GenAI de Bing

On le sait, les chatbots reposant sur l’IA générative ont tendance à dérailler parfois. D’où l’intensification des efforts visant à sécuriser ces outils. Microsoft a dans ce cadre annoncé un nouveau programme de Bug Bounty dans l'objectif de trouver et corriger les vulnérabilités liées à l'expérience alimentée par l'IA sur le moteur de recherche Bing. Outil développé rappelons-le via un partenariat avec OpenAI. Quiconque identifie une faille est ainsi invité à en faire part à l'entreprise via le portail Microsoft Security Response Center (MSRC).  

Le programme Microsoft AI bounty promet des récompenses allant de 2’000 à 15’000 dollars. Pour y avoir droit, il est nécessaire d'identifier une vulnérabilité que Microsoft n’a ni signalée ni découverte. La vulnérabilité doit être de gravité critique ou importante et poser des risques avérés aux utilisateurs. Il est en outre demandé aux chasseurs de bugs de décrire le problème via «des étapes claires, concises et reproductibles, soit par écrit, soit sous forme de vidéo», souligne Microsoft dans la FAQ dédiée à ce programme.  

D’autres entreprises et initiatives s'activent sur ce créneau. A l’image de la start-up suisse Lakera, dont la solution protège les modèles d’IA générative contre les prompts malveillants, et travaille à filtrer les contenus générés par ces mêmes modèles. En outre, la première édition de l’AI Safety Prize, concours suisse présenté comme un Bug Bounty de l’IA, cherche des candidats qui peuvent s'inscrire  jusqu'à fin octobre.