La conception des agents IA chez Pulse Santé
L’intelligence artificielle ouvre de nouvelles perspectives pour les prestataires de santé (PSAD et MAD). Découvrez comment Pulse Santé conçoit les agents IA à votre disposition.
L’intelligence artificielle ouvre de nouvelles perspectives aux prestataires de santé à domicile (PSAD) et de maintien à domicile (MAD), les PSDM. Elle peut simplifier des tâches répétitives, donner un accès plus rapide à l’information et enrichir les fonctionnalités de votre logiciel. Mais pour être utile et digne de confiance, un agent IA doit être conçu avec méthode, testé rigoureusement et encadré par des règles précises.
Intégrer une IA dans un logiciel professionnel ne consiste pas à brancher un modèle et à lui poser des questions. Chez Pulse Santé, la confiance dans nos agents IA repose sur trois piliers : une infrastructure dédiée aux données de santé, une conception qui limite strictement les données utilisées, et un contrôle permanent de leur fonctionnement.
💡 L’essentiel en 30 secondes
- Utiles avant tout : chaque agent IA répond à un besoin métier concret, avec une mission et un périmètre définis.
- Une IA hébergée dans un environnement de santé : nos agents s’appuient sur Amazon Bedrock, opéré par AWS, hébergeur certifié HDS. Les traitements ont lieu dans l’Union européenne.
- Vos données restent les vôtres : elles ne sont ni conservées par le service d’IA, ni transmises aux éditeurs des modèles, ni utilisées pour entraîner une IA.
- Le strict nécessaire : l’agent ne reçoit que les informations utiles à la tâche demandée. Les identifiants sensibles comme le NIR sont exclus par défaut.
- Droits respectés : un agent n’accède qu’aux données auxquelles l’utilisateur a lui-même accès.
- Sous contrôle : les agents sont testés, tracés, supervisés et peuvent être suspendus à tout moment.
Des agents IA conçus pour répondre à des besoins concrets
Nous ne développons pas des agents IA pour le seul intérêt technologique. Notre priorité est d’identifier les situations dans lesquelles ils apportent une réelle valeur aux utilisateurs de notre logiciel : gain de temps, réduction des erreurs, accès plus simple à l’information.
Chaque agent a une mission clairement définie, un périmètre d’intervention précis et un niveau d’autonomie adapté à son usage. Toutes les situations ne nécessitent pas qu’une IA agisse seule : selon les cas, il est préférable qu’elle fournisse une information, suggère une action ou attende une validation humaine.
Notre objectif n’est pas de rendre les agents IA aussi autonomes que possible, mais de leur donner le juste niveau d’autonomie pour remplir leur mission de manière utile et maîtrisée.
Trois niveaux d’intervention
| Rôle de l’agent | Ce qu’il fait | Exemple de demande |
|---|---|---|
| 📘 Informer | Vous guide dans l’utilisation du logiciel, à partir de la documentation. | « Comment faire un inventaire partiel ? » |
| 🤝 Assister | Consulte vos données, répond à vos questions et prépare des actions simples. | « Peux-tu ajouter un RDV demain 9h pour Mme Durand ? » |
| ⚙️ Automatiser | Prend en charge une tâche longue et répétitive, avec des points de contrôle. | « Traite les rejets de facturation de ce mois-ci. » |
Quelques exemples concrets
L’IA vous aide à trouver les réponses à vos questions sur l’utilisation du logiciel :
- Comment configurer une relance patients ?
- Comment configurer un scénario de maintenance ?
- Comment faire un inventaire partiel ?
L’IA vous sert d’assistant au quotidien :
- Quand est le prochain RDV de M. Dupont ?
- Quel est mon chiffre d’affaires pour ce prescripteur le mois dernier ?
- Peux-tu ajouter un RDV demain à 9h pour Mme Durand ?
L’IA automatise des tâches chronophages pour vous faire gagner du temps :
- Planifie la tournée de livraison de la semaine prochaine.
- Traite les rejets de facturation de ce mois-ci.
Vos données de santé traitées dans un environnement conçu pour elles
Pour répondre à une question sur un patient ou corriger un rejet de facturation, l’agent IA doit parfois traiter des informations qui concernent sa santé (un rendez-vous, une prestation, un motif de rejet). Nous avons donc décidé de faire fonctionner l’IA dans un environnement sécurisé qui offre aux données de santé les mêmes garanties que le reste de votre logiciel.
Amazon Bedrock : une IA intégrée à un hébergement de santé
Nos agents utilisent les modèles d’IA via Amazon Bedrock, le service d’IA générative d’Amazon Web Services (AWS). Ce choix apporte des garanties qu’une IA grand public ne peut pas offrir :
| Garantie | Ce que cela signifie pour vous |
|---|---|
| 🏥 Hébergeur certifié HDS | AWS est certifié Hébergeur de Données de Santé (HDS), la certification exigée en France pour héberger des données de santé. |
| 🇪🇺 Traitement dans l’Union européenne | Les requêtes sont traitées dans des régions AWS situées dans l’Union européenne. Les traitements hors Europe sont bloqués par configuration. |
| 🚫 Aucune conservation par le service d’IA | Bedrock est configuré pour ne pas conserver les questions posées ni les réponses produites : une fois la réponse rendue, le service d’IA n’en garde pas de copie. |
| 🔐 Aucun accès des éditeurs de modèles | Les entreprises qui conçoivent les modèles d’IA n’ont pas accès à vos demandes ni aux réponses. Elles ne reçoivent aucune donnée de vos patients. |
| 🧠 Aucun entraînement sur vos données | Vos données ne servent jamais à entraîner ou améliorer un modèle d’IA, ni chez AWS, ni chez les éditeurs de modèles, ni chez Pulse Santé. |
| 🔒 Chiffrement et réseau privé | Les échanges sont chiffrés. Les données stockées sont chiffrées avec des clés gérées par Pulse Santé. Les composants communiquent par des liaisons privées. |
| 🛡️ Garde-fous systématiques | Des filtres de sécurité sont appliqués à chaque échange avec le modèle, en complément des contrôles propres à nos outils. |
Le principe du strict nécessaire
Héberger l’IA dans un environnement sécurisé ne suffit pas : encore faut-il ne lui transmettre que ce qui est utile. C’est le principe de minimisation, au cœur du RGPD.
- Chaque agent ne reçoit que les informations nécessaires à l’étape en cours, et rien de plus.
- Les identifiants sensibles (NIR, INS, date de naissance) sont exclus par défaut. Ils ne sont utilisés que si une tâche précise l’exige réellement.
- Il n’existe pas d’accès « au dossier complet » : chaque outil expose un périmètre de données limité à sa mission.
- Le patient concerné est désigné par votre logiciel, jamais deviné par l’IA : il n’y a pas de confusion possible entre deux patients homonymes.
🔒 En résumé : le modèle d’IA ne traite que les données utiles à votre demande, dans un environnement certifié HDS situé dans l’Union européenne, sans conservation, sans accès des éditeurs de modèles et sans entraînement sur vos données.
Des données et des actions sous contrôle
Un agent IA ne doit accéder qu’aux informations et aux outils nécessaires à sa mission. La confidentialité des données, la gestion des autorisations et la sécurité font donc partie intégrante de sa conception.
Son comportement est également encadré : nous définissons ce qu’il peut faire, les limites qu’il doit respecter et la conduite à tenir face à une situation ambiguë ou inattendue.
- Mêmes droits que l’utilisateur : un agent IA accède uniquement aux données auxquelles l’utilisateur qui l’interroge a lui-même accès. Un technicien qui n’a pas accès à la facturation ne pourra pas obtenir le chiffre d’affaires d’un prescripteur en passant par l’IA.
- L’IA ne décide pas des autorisations : les droits d’accès sont vérifiés par le logiciel à chaque action, selon des règles fixes. Une consigne habile ne peut pas convaincre l’IA de les contourner.
- Des agents spécialisés et coordonnés : plutôt qu’une IA « qui sait tout faire », plusieurs agents spécialisés (aide, planning, facturation…) sont coordonnés pour fournir une réponse cohérente. Chacun est cloisonné : il ne voit que les données de sa mission.
- Validation humaine quand c’est nécessaire : pour les actions qui modifient vos données, l’agent propose plutôt qu’exécuter. Il vous présente la valeur actuelle et la valeur proposée, puis attend votre confirmation.
- Aucune mémoire durable : les informations d’une conversation sont effacées à sa clôture. Un agent ne « se souvient » pas des patients d’une session à l’autre.
Cette approche permet de tirer parti des capacités de l’intelligence artificielle tout en limitant les risques liés à son utilisation.
Tester et superviser pour garantir la qualité
Une réponse qui paraît pertinente ne suffit pas à démontrer qu’un agent IA fonctionne correctement. Avant chaque mise en production, nous vérifions notamment :
- ✅ la qualité des informations utilisées : l’agent s’appuie-t-il sur des sources fiables et à jour ?
- ✅ le respect des règles d’accès : l’agent refuse-t-il bien de communiquer une donnée à un utilisateur non autorisé ?
- ✅ la robustesse face aux tentatives de détournement : l’agent résiste-t-il à une consigne malveillante cachée dans une question ou un document ?
- ✅ le comportement face aux situations inhabituelles : en cas de doute, l’agent demande-t-il une précision plutôt que d’inventer une réponse ?
Ces tests sont réalisés sur des jeux de données entièrement fictifs : aucune donnée réelle de patient n’est utilisée pour développer ou tester nos agents. Ils sont rejoués à chaque évolution, car une modification du modèle, des instructions ou des données peut changer les résultats.
La supervision joue également un rôle essentiel. Chaque action d’un agent est tracée (qui, quand, quel agent, quelle action), sans recopier le contenu des échanges dans les journaux. Cette traçabilité permet d’analyser les incidents et de comprendre les comportements observés. Des mécanismes de contrôle permettent d’intervenir si nécessaire, voire de suspendre un agent.
La mise en production n’est pas la fin du travail : elle marque le début d’une démarche de suivi et d’amélioration continue.
La sécurité et la conformité dès la conception
La protection des données personnelles, la confidentialité, la traçabilité et la maîtrise des accès ne sont pas des sujets secondaires. Ces exigences sont prises en compte dès la conception de nos agents IA, en fonction du contexte d’utilisation et des obligations applicables.
Chaque agent fait l’objet d’une analyse d’impact relative à la protection des données (AIPD), une démarche obligatoire au titre du RGPD pour les traitements de données sensibles. Cette analyse évalue les risques pour vos patients et définit les mesures à mettre en œuvre avant toute utilisation sur des données réelles.
Nos agents IA sont conçus dans le respect :
- du RGPD : minimisation des données, durées de conservation limitées, sécurité et droits des personnes ;
- des règles propres aux données de santé : secret professionnel et hébergement certifié HDS ;
- du règlement européen sur l’IA (AI Act), dont les obligations de transparence s’appliquent depuis août 2026 : vous savez toujours quand vous échangez avec une IA ;
- des recommandations de la CNIL et de la HAS sur l’usage de l’IA en santé.
Nos agents sont des outils d’assistance administrative et organisationnelle. Ils ne posent pas de diagnostic, ne recommandent pas de traitement et ne remplacent pas l’avis d’un professionnel de santé.
IA grand public : les erreurs à éviter avec les données patients
Les IA grand public (ChatGPT, Claude, Mistral, Gemini…) sont des outils puissants, mais leurs versions grand public ne sont pas conçues pour traiter des données de santé dans le cadre d’une activité de PSAD ou de MAD : les données qui leur sont envoyées ne sont pas hébergées dans un environnement HDS, peuvent être conservées par le fournisseur et, selon les offres, servir à améliorer ses modèles.
⚠️ À ne pas faire avec une IA grand public
- ❌ Copier-coller une ordonnance, un compte rendu ou une prescription pour la résumer ou la retranscrire.
- ❌ Photographier une carte Vitale, une attestation de mutuelle ou un bon de livraison signé pour en extraire les informations.
- ❌ Faire rédiger un courrier à un médecin ou à une caisse en indiquant le nom du patient, son NIR ou sa pathologie.
- ❌ Transmettre une liste de patients (noms, adresses…) pour optimiser ses tournées.
La bonne pratique : utiliser les fonctionnalités d’IA intégrées à votre logiciel métier. Elles fonctionnent dans un environnement certifié HDS, sans conservation par le service d’IA, sans entraînement sur vos données, et avec les mêmes droits d’accès que votre logiciel.
| IA grand public | Agents IA Pulse Santé | |
|---|---|---|
| Hébergement certifié HDS | ❌ Pas de certification HDS | ✅ Certifié HDS |
| Traitement dans l’Union européenne | ❌ Non garanti | ✅ Traitement des données dans l’UE |
| Conservation des échanges par le fournisseur | ❌ Possible | ✅ Echanges non conservés |
| Utilisation pour entraîner des modèles | ❌ Possible selon l’offre | ✅ Données non utilisées |
| Respect de vos droits d’accès utilisateur | ❌ Ne connait pas les profils utilisateurs | ✅ Prise en compte du profil utilisateur |
| Traçabilité des actions | ❌ Aucun registre des actions métiers | ✅ Registre de suivi des actions |
Questions fréquentes
Le modèle d’IA voit-il les données de santé de mes patients ?
Lorsqu’une tâche l’exige, le modèle peut traiter certaines informations de santé, limitées au strict nécessaire. Ce traitement a lieu dans l’environnement Amazon Bedrock, hébergé par AWS, certifié HDS, dans l’Union européenne. Les identifiants sensibles comme le NIR sont exclus par défaut.
Mes données sont-elles conservées ou réutilisées par le fournisseur de l’IA ?
Non. Le service d’IA est configuré pour ne conserver ni les questions ni les réponses. Les éditeurs des modèles n’ont pas accès à vos échanges, et vos données ne sont jamais utilisées pour entraîner un modèle.
Mes données quittent-elles l’Europe ?
Non. Les traitements d’IA sont réalisés dans des régions AWS situées dans l’Union européenne, et les traitements hors Europe sont bloqués par configuration.
L’IA peut-elle modifier mes données sans mon accord ?
Chaque agent dispose d’un niveau d’autonomie adapté à sa mission. Pour les actions qui le justifient, l’agent vous présente la modification proposée et attend votre validation avant d’agir. Toutes les actions sont tracées.
Un collaborateur peut-il voir, via l’IA, des données auxquelles il n’a pas accès ?
Non. Un agent IA hérite des droits de l’utilisateur qui l’interroge : il ne peut consulter que les données auxquelles cet utilisateur a déjà accès dans le logiciel. Ces droits sont vérifiés par le logiciel lui-même, pas par l’IA.
Les données de mes patients servent-elles à développer vos agents ?
Non. Nos agents sont développés et testés exclusivement sur des données fictives. Les équipes de développement n’ont pas accès aux données réelles.
Une IA utile, encadrée et maîtrisée
Chez Pulse Santé, nous concevons et intégrons des agents IA avec la même exigence que les autres composants de notre logiciel, en accordant une attention particulière à leur utilité, à leur sécurité et à la maîtrise de leurs actions.
Notre ambition : proposer aux prestataires de santé (PSDM : PSAD et MAD) des agents IA qui leur ouvrent de nouvelles possibilités, dans un environnement de confiance conçu pour les données de santé, et dans le respect des données de leurs patients.
Date: 20/10/26