Aux HUG, un chatbot GenAI informe sur les maladies chroniques

Les Hôpitaux universitaires de Genève (HUG) annoncent la mise en ligne de «confIAnce», un agent conversationnel basé sur l’intelligence artificielle générative (GenAI). Ce chatbot multilingue promet de fournir à la population et aux médecins des informations médicales générales vérifiées. 

Développé au cours d’une phase pilote de deux ans, «confIAnce» offre des réponses sur une trentaine de maladies chroniques courantes. Toutefois, il ne pose aucun diagnostic et ne remplace pas un avis médical, soulignent les HUG dans leur communiqué. L’objectif principal est d’accompagner les patients dont le diagnostic a déjà été établi par un professionnel de santé.

Les HUG estiment que ce chatbot IA se profile comme une solution face aux délais toujours plus longs pour obtenir un rendez-vous médical. «Utiliser l’intelligence artificielle en complément redonne du temps aux discussions essentielles et augmente ainsi la qualité des consultations», ajoute le Professeur Idris Guessous, médecin-chef du Service de médecine de premier recours et responsable du Centre de l’innovation.

Azure OpenAI et RAG

Le nouvel agent conversationnel des HUG respecte les réglementations en vigueur en Suisse et en Europe, notamment en matière de transparence et de protection des données. Aucune création de compte n’est requise pour son utilisation. La solution a été développée via Azure OpenAI (les données sont traitées sur des serveurs en Europe), en collaboration avec l’agence Liip, précisent les HUG à la rédaction d’ICTjournal. 

Dans un article publié dans la revue Swiss Medical Weekly, les responsables du projet expliquent que, dans le but de limiter les risques d’informations erronées (hallucinations), la technique RAG (Retrieval-Augmented Generation) a été mise à profit. Cette approche a servi à restreindre le chatbot à un périmètre d’informations défini par les développeurs. Ainsi, les réponses de «confIAnce» sont exclusivement basées sur la documentation médicale du Service de médecine de premier recours (SMPR) des HUG, soit plus de 1’500 pages de contenu validé.

Malgré ces précautions, les HUG insistent sur le fait que «confIAnce» ne remplace pas une consultation médicale. Les conditions générales d’utilisation, que chaque utilisateur doit accepter avant d’interagir avec le chatbot, précisent que les réponses fournies sont à titre informatif uniquement. 

Par ailleurs, les données saisies dans le chatbot peuvent être utilisées à des fins statistiques, de recherche et d’amélioration du service. Sur ce point, les HUG précisent à la rédaction que Microsoft garantit que les informations entrées par les utilisateurs ne sont pas conservées sur ses serveurs. «A des fins d’amélioration du service, de recherche et de qualité, nous avons souhaité aux HUG conserver les données de manière anonyme et sécurisée. Elles sont stockées sur les serveurs de Liip/Exoscale situés en Suisse pour une durée de 3 ans», indique le service de communication des HUG.