L’API contre l’injection de prompts du suisse Lakera s’invite dans AWS SageMaker
AWS intègre des applications partenaires dans SageMaker, incluant la solution de Lakera. La start-up suisse propose une API pour protéger les modèles d’IA générative.
La solution de la jeune pousse zurichoise Lakera, spécialisée dans la sécurisation des LLM, est désormais disponible dans Amazon SageMaker. Pour rappel, cette plateforme de services entièrement managés permet de créer, entraîner et déployer des modèles d’IA générative. Lakera fait partie des premières applications partenaires annoncées par AWS, aux côtés de Comet, Deepchecks et Fiddler. Ces intégrations directes visent à simplifier la gestion des modèles d’IA, depuis leur conception jusqu’à leur monitoring en production.
Lakera, qui a récemment levé 20 millions de dollars en financement de série A, se concentre sur la protection contre les attaques par injection de prompts, L’entreprise a développé une API propriétaire qui ajoute une couche de sécurité compatible avec n’importe quel modèle GenAI. Les équipes de sécurité peuvent définir des politiques spécifiques aux applications et répondre aux menaces émergentes, sans que les développeurs n'aient à modifier leurs modèles ou leurs applications.
