DSIH, MARDI 06 SEPTEMBRE 2022
À la demande du Premier ministre, le Conseil d’État a publié le 30 août 2022 une étude en faveur d’une stratégie de l’IA ambitieuse au service de la performance publique pour créer les conditions de la confiance tout en dotant la France des ressources et de la gouvernance à la hauteur de ses ambitions. La santé, en lien avec le Health Data Hub, n’y est pas oubliée.
L’étude Intelligence artificielle et action publique : construire la confiance, servir la performance, publiée fin août par le Conseil d’État, vise à construire une intelligence artificielle publique de confiance dans tous les domaines. Elle plaide pour la mise en œuvre d’une politique de déploiement de l’intelligence artificielle résolument volontariste, au service de l’intérêt général et de la performance publique.
Lever des craintes souvent exagérées
Pour le Conseil d’État, l’intelligence artificielle suscite encore des craintes souvent exagérées, malgré les avancées qu’elle permet en assistant l’humain dans des tâches impossibles à réaliser jusque-là. « En appui des administrations, son utilisation pourrait améliorer concrètement la qualité du service public rendu aux citoyens », déclare-t-il dans son communiqué.
L’objectif est d’aboutir à une intelligence artificielle publique de confiance reposant sur sept principes : la primauté humaine, la performance, l’équité et la non-discrimination, la transparence, la sûreté (cybersécurité), la soutenabilité environnementale et l’autonomie stratégique.
Pour ce faire, le Conseil propose un renforcement d’Étalab, département de la Direction interministérielle du numérique qui coordonne la conception et la mise en œuvre de la stratégie de l’État dans le domaine de la donnée, ainsi que du coordonnateur national pour l’intelligence artificielle, en lien avec l’intervention de l’Agence nationale de la cohésion des territoires. L’étude préconise aussi de transformer la Cnil en autorité de contrôle nationale responsable de la régulation des systèmes d’IA, notamment publics, avec pour ambition d’incarner et d’internaliser le double enjeu de la protection des libertés et droits fondamentaux, d’une part, de l’innovation et de la performance publique, d’autre part.
La santé identifiée comme l’un des secteurs prioritaires d’investissement en IA
La santé est bien sûr intégrée dans cette étude, notamment dans ses usages d’aide au diagnostic et à la prescription médicale, d’alertes sanitaires et de robotique médicale. Elle fait même partie des quatre secteurs prioritaires pour l’investissement dans les systèmes d’intelligence artificielle identifiés dans la Stratégie nationale pour l’intelligence artificielle (SNIA). Selon l’étude, l’IA en santé est en forte croissance économique avec un poids estimé en 2020 à 4,9 milliards de dollars et une évolution de près de 50 % par an.
La santé serait le champ d’usage de l’IA qui suscite le plus d’espoirs et de fantasmes, notamment au regard des questions humaines et éthiques. L’étude souligne que le progrès porte d’un côté le risque d’aggraver les inégalités d’accès aux soins, si l’innovation n’est pas disponible pour tous, et de l’autre de faciliter ce même accès aux soins, en particulier dans les déserts médicaux. Elle note ainsi les réactions ambivalentes face à l’IA, qui vont d’un optimisme béat ou mesuré à une défiance totale, en passant par la curiosité ou l’indifférence. De même, l’IA participe à la fois à l’autonomisation du patient et à l’amélioration de l’observance, tout en favorisant par ailleurs l’étiolement de la relation médecin-patient. D’ailleurs, le CCNE avait proposé en 2018 l’inscription sur un plan législatif du principe de garantie de supervision humaine de toute utilisation du numérique en santé et estimé « nécessaire que toute personne ayant recours à l’intelligence artificielle dans le cadre de son parcours de soins en soit préalablement informée afin qu’elle puisse donner son consentement libre et éclairé ».
La question de la gestion et de la protection des données est d’autant plus prégnante dans le champ de la santé. L’étude insiste ainsi sur le fait que des projets d’IA se heurtent à la qualité des données annotées, qui n’ont pas été recueillies dans la perspective d’une analyse par un Système d’intelligence artificielle (SIA), mais simplement dans le cadre de la délivrance d’une prestation de santé aboutissant jusqu’à 30 % d’erreurs dans la description des pathologies associées aux malades, malgré les données médico-administratives figurant dans le Système national des données de santé (SNDS).
L’étude achève donc sa fiche consacrée à la santé sur le potentiel de l’IA et son facteur d’attractivité pour les professionnels, contrecarré par un cadre de pénurie croissante. Elle préconise d’analyser son impact global pour le patient, les praticiens et les établissements de santé dans une chaîne de soins repensée. L’IA en santé doit se construire en impliquant la multitude des acteurs de la santé pour permettre de traiter en masse de l’information sans remplacer l’humain du point de vue technique, organisationnel ou éthique. Elle conclut sur la nécessité de « son appropriation progressive […] pour dépasser les appréhensions et déceptions, et habituer l’hôpital à ces changements organisationnels ».
