Intégration de l'IA dans les ESSMS : quels points d'attention ?

L’intelligence artificielle (IA) intègre de plus en plus le fonctionnement des établissements et services sociaux et médico-sociaux (ESSMS), ainsi que celui des établissements de santé. Les applications de l’IA y sont multiples et visent notamment à améliorer la prise en charge des usagers, ainsi que l’organisation et la gestion des structures.

L’IA permet une automatisation des tâches répétitives, une réduction des erreurs humaines, un gain de temps et une sécurisation des process. Elle libère du temps aux professionnels pour les tâches à haute valeur ajoutée : le pilotage stratégique et l’accompagnement au quotidien des usagers, deux axes sur lesquelles, l’intelligence artificielle n’est pas sans intérêt non plus. Une des forces de cette intelligence est la pertinence toujours renouvelée de ses réponses, puisqu’une de ses caractéristiques est sa capacité d’apprentissage.

Avant d’aborder comment l’IA peut faciliter le quotidien des ESSMS et des établissements de santé, revenons sur ce qui se cache derrière les deux lettres I et A, puis voyons quels points d’attention soulèvent l’utilisation les technologies IA.

Qu’est-ce que l’intelligence artificielle dite « IA » ?

L’IA vise à doter les machines de la capacité à simuler des comportements intelligents, souvent dans des environnements en interaction avec des êtres humains. Ses objectifs principaux sont la réponse à des demandes et la résolution de problèmes qu’elle permet grâce à des capacités de :

• Perception de l’environnement (image, son, bruit, etc.). L’IA utilise notamment la reconnaissance d’images, faciale ou vocale, pour laquelle les réseaux de neurones ou le Deap Learning sont particulièrement efficaces. Le traitement du langage naturel (Natural Language Processing ou NPL) utilise la détection d’entités nommées, les analyses syntaxiques et sémantiques, ainsi que des modèles de langage préentraînés pour permettre aux machines de comprendre les contextes, de les interpréter et ensuite de répondre aux demandes en langage humain.
• Raisonnement et prise de décision. Par des techniques telles que les réseaux de neurones ou les systèmes experts, et en se basant souvent sur des algorithmes d’analyses statistiques de données parfois fournies en très grandes quantités (Big Data), l’IA analyse des informations, tire des conclusions, et propose des solutions ou prend des décisions.

Ce qui caractérise également l’IA, c’est son potentiel de :

• Apprentissage autonome. Des processus de Machine Learning permettent aux systèmes d’IA d’améliorer leurs performances, souvent à partir de données brutes qui s’enrichissent.

Tout ceci bien sûr dans un temps réduit, avec lequel l’être humain ne peut pas rivaliser.

Ces technologies sont souvent utilisées souvent en combinaison, et leur apport potentiel au niveau des ESSMS est indéniable.

Quelles applications de l’IA pour les ESSMS ?

L’IA peut trouver des applications au niveau de toutes les parties prenantes. Sans entrer dans les détails — ce que nous ferons dans un prochain article —, les technologies d’intelligence artificielle apportent un fonctionnement agile à différents niveaux :

• le pilotage des ESSMS, où notamment elles facilitent la gestion administrative et budgétaire et permettent une planification optimisée en fonction de l’environnement social, matériel et financier. L’IA facilite également l’amélioration continue du fonctionnement des ESSMS, notamment par la recherche des meilleures réponses aux problématiques et à l’analyse de la satisfaction des usagers. Enfin, son apport dans la sécurité des systèmes informatiques est indéniable. Elle peut notamment apprendre à détecter les nouvelles menaces ;
• le soutien aux professionnels, dont elle renforce les compétences en permettant la mise en place de formations personnalisées et en offrant des terrains d’entraînement. L’intelligence artificielle s’intègre aussi dans des outils d’aide à la communication entre les parties prenantes, ainsi que d’aide à la décision. L’IA sécurise les réponses apportées par les professionnels. Également, en libérant les professionnels des tâches répétitives, elle leur permet de davantage se consacrer aux interactions fines avec les usagers et leur famille ;
• l’accompagnement personnalisé des usagers, qu’elle optimise en permettant un suivi de l’état de santé et du comportement des usagers et en proposant des outils adaptés et évolutifs favorisant leur autonomie et leur inclusion. Caractériser l’usager dans ses aptitudes motrices et psychologiques, dans ses besoins et ses demandes, détecter des variations par rapport à un état de base individualisé, prévoir des évolutions, favoriser des acquisitions en tenant compte du contexte, émettre des alertes, tout cela fait partie des potentialités de l’IA ;
• l’appui aux familles et aux proches, en favorisant la connaissance des problématiques, des voies de prise en charge et en permettant de renforcer les interactions avec les usagers.

L’introduction de l’IA dans les ESSMS peut donc offrir des bénéfices substantiels en termes de qualité des soins et de l’accompagnement, d’efficacité opérationnelle et de personnalisation de la prise en charge des usagers. Son utilisation n’est cependant pas sans des risques, qu’il convient d’évaluer.

Quels points d’attention lorsqu’on met en œuvre l’IA ?

Dans son rapport de fin 2024 intitulé Algorithmes, systèmes d’IA et services publics : quels droits pour les usagers ?, la Défenseure des droits a mis en garde contre les atteintes aux droits fondamentaux des usagers que génère le recours à l’usage croissant des algorithmes ou systèmes d’IA dans les services publics français. Elle réaffirme « la vision d’un service public devant toujours conserver son rôle de soutien et de service au public, par le respect des grands principes de continuité du service, d’égalité de tous devant le service et d’adaptabilité aux besoins des usagers. […] Cela suppose de placer le respect des droits des usagers au cœur des objectifs assignés aux managers publics comme aux agents de terrain et, corrélativement, de ne pas laisser l’administration se concentrer, notamment s’agissant du déploiement des systèmes algorithmiques, sur des objectifs prioritaires de réduction des coûts et de personnel et sur des indicateurs de rentabilité. »

Une telle philosophie, définie ici pour les usagers des services public, peut aussi s’entendre pour les usagers des ESSMS et doit donc prévaloir lors de toute utilisation d’IA dans un tel établissement. Cette utilisation doit se faire de manière réfléchie, en veillant à respecter des principes éthiques et notamment à :

• éviter des biais algorithmiques liés à l’apprentissage automatique. En cas de données sources insuffisamment diversifiées, cela pourrait conduire à l’apparition de préjugés ou de discriminations liés à des données administratives (âge, genre, catégorie socio-économique, etc.), à des situations personnelles (handicap, troubles psychologiques, etc.) ainsi qu’à des recommandations inappropriées ;
• garantir la confidentialité et la sécurité des données personnelles. L’IA se base souvent sur l’analyse d’un grand nombre de données qui peuvent être personnelles. Les données concernant les enfants et les personnes en situation de handicap ou de difficultés sociales sont sensibles, tout comme les données de santé. Leur utilisation doit toujours être conforme au Règlement général sur la protection des données (RGPD) et l’hébergement de ces données doit être sécurisé afin de minimiser les risques de piratage informatique et de vol de données ;
• former les professionnels à l’utilisation de ces nouvelles technologies et outils, afin qu’ils en connaissent les limites et d’en maximiser le bénéfice, tout en évitant des erreurs d’interprétation des réponses de l’IA ;
• respecter l’équité dans l’accès à ces technologies. Dans un établissement, tous les usagers qui le souhaitent doivent pouvoir en bénéficier de la même façon. L’accès à l’intelligence artificielle doit reposer sur les projets personnels, et non sur un niveau de compétences, sur des capacités physiques ou sur une situation financière.

L’implémentation de l’IA dans les pratiques existantes doit permettre qu’elle complète l’humain dans la prise en charge des usagers. Jamais elle ne doit le remplacer et celui-ci doit rester le décideur final. Le contact humain et l’empathie sont essentiels dans la prise en charge, en particulier des personnes vulnérables (enfants, personnes en situation de handicap, personnes âgées), et l’IA ne doit surtout pas nuire à cette dimension.

Au niveau national, un communiqué de presse gouvernemental du 31 janvier 2025 annonçait la création de l’Institut national pour l’évaluation et la sécurité de l’intelligence artificielle (INESIA) pour « bâtir une IA de confiance, avec des standards élevés de fiabilité et de sûreté, et porteuse des valeurs de la France ». Une future ressource à ne pas négliger.

Dir IPS et l’IA

Dir IPS, éditeur de logiciels de gestion budgétaire (Gestionnaire) et d’activité (DirIgami Facturation, DirIgami Usager), a sa branche historique spécialisée dans le secteur sanitaire et social.

La société s’intéresse depuis plusieurs années aux apports de l’IA. Celle-ci intègre Gestionnaire pour deux applications pour le moment :

• La classification automatique des comptes d’immobilisation. Cela permet aux établissements de préparer les plans pluriannuels d’investissement (PPI) et les plans de financement automatiquement, et donc de manière fiable, même si la personne qui a renseigné le projet d’investissement n’a pas de connaissances comptables.
• Le calcul des coûts. L’intelligence artificielle permet de calculer le coût de n’importe quel projet dans un module proposé à tous en bêta-test jusqu’au 31 mai 2025. N’hésitez pas à la découvrir et à nous faire vos retours avant le 31 mai 2025.

D’autres utilisations de l’IA dans les solutions de Dir IPS sont à venir…

Par Dir IPS, le 14 avril 2025