[Contribution] Point d'inflexion stratégique pour les entreprises de santé après la mise en œuvre de l'IA Framework Act

Aller au-delà du respect des licences vers une ère de gestion des « risques pour la justice médicale »
Seohyung Lee, avocat de Cabinet d'avocats Daeryun (SELAS)

Depuis la mise en œuvre de la loi fondamentale sur le développement de l’intelligence artificielle et la création d’une fondation de confiance (ci-après dénommée loi fondamentale sur l’IA), les secteurs pharmaceutique, biologique et numérique de la santé ont été dans une certaine mesure libérés de l’incertitude réglementaire. En effet, le gouvernement interprète de manière flexible le champ d'application de l'IA à fort impact directement lié à la vie et à la santé en tenant compte de la promotion du secteur de la santé et de l'innovation, et opère avec une réglementation relativement limitée sur les solutions d'aide au diagnostic qui nécessitent l'intervention de professionnels de la santé tels que les médecins et les pharmaciens.

Cette approche politique constitue une mesure raisonnable pour maintenir la dynamique de développement des technologies de santé numériques. En particulier, le système de réglementation administrative dans le domaine de la santé est également solidement établi, avec un processus d'approbation personnalisé du ministère de la Sécurité alimentaire et pharmaceutique pour les dispositifs médicaux logiciels (SaMD) lancé par le biais de la loi sur les produits médicaux numériques, qui a été sérieusement mise en œuvre.

Toutefois, la stabilisation de cet environnement réglementaire ne signifie pas la résolution des risques juridiques. Il est plutôt probable que la responsabilité judiciaire de l’IA médicale soit désormais sérieusement mise à l’épreuve.

◆ Écart juridique entre l'intervention formelle et le contrôle réel en milieu clinique

Certaines entreprises de soins de santé numériques peuvent tenter de dépasser le seuil des réglementations à fort impact sur l’IA en exigeant l’approbation du personnel médical ou des pharmaciens au stade final de leurs solutions d’IA. Cependant, lorsqu'un litige médical surgit et fait l'objet d'une décision de justice, l'accent n'est pas mis sur « l'existence d'une intervention du personnel médical » mais sur la question de savoir si cette intervention a rempli une « fonction de contrôle clinique substantielle » directement liée à la vie du patient.

Par exemple, supposons qu'une IA de diagnostic précoce du cancer ait mal diagnostiqué une tumeur maligne parce qu'elle n'a pas réussi à apprendre suffisamment de données auprès de patientes d'un certain âge, ou qu'un algorithme de recommandation de dosage de stupéfiants anticancéreux ait sous-estimé les niveaux de fonction hépatique, entraînant des effets secondaires graves. À l’heure actuelle, le tribunal ne se contente pas de vérifier si « le personnel médical a appuyé sur le bouton d’approbation finale ». Nous déterminerons de manière exhaustive si l’IA a fourni des preuves cliniques et un potentiel explicatif à un niveau que le personnel médical peut raisonnablement examiner, et s’il existe un système de contrôle permettant de vérifier par recoupement les biais et les erreurs algorithmiques au sein de l’entreprise.

Si le système est conçu de manière à ce que le processus d'approbation soit effectué mécaniquement, sans vérification substantielle et sans tenir compte des caractéristiques des sites cliniques très fréquentés, la soi-disant intervention humaine peut être inversée comme une situation révélant une faille fatale dans le système de gestion de la sécurité des produits, plutôt que comme une logique d'immunité pour les entreprises de soins de santé. Cela peut être étendu au risque de gouvernance, où la question est de savoir si la direction a établi et supervisé un système de contrôle interne raisonnable. En cas de préjudice important pour les patients, la possibilité que cela conduise à un procès des actionnaires ou à une violation des obligations de surveillance du conseil d'administration ne peut être exclue.

◆ Une nouvelle norme dans les partenariats mondiaux avec les grandes sociétés pharmaceutiques et les marchés B2B étrangers

Depuis 2026, avec l’application à grande échelle de la loi européenne sur l’IA (Artificial Intelligence Act), le marché mondial de la santé exige déjà le plus haut niveau de gouvernance de l’IA médicale. Lorsque des sociétés pharmaceutiques multinationales mondiales (Big Pharma) ou de grandes institutions médicales discutent d’exportations de nouvelles technologies de substances stupéfiantseuses ou de contrats cliniques conjoints avec des sociétés de soins de santé K, elles ne se contentent pas de demander si elles respectent les directives du ministère coréen de la sécurité alimentaire et pharmaceutique. Il existe une tendance à demander des données spécifiques pour prouver la légitimité des données médicales sensibles des patients utilisées à des fins d’apprentissage, la transparence des algorithmes de prédiction et le système de contrôle bioéthique à l’échelle de l’entreprise.

Le fait que les réglementations nationales puissent être évitées n’est pas une explication suffisante face aux partenaires étrangers stricts ou aux agences de régulation (FDA, EMA, etc.). Au contraire, si le système interne de gouvernance de l’IA médicale est insuffisant, cela peut conduire à l’exclusion de la chaîne d’approvisionnement mondiale des soins de santé ainsi qu’à l’acceptation de clauses de représentation et de garantie très fatales dans les contrats. Aujourd’hui, dans les secteurs pharmaceutique et de la santé, la gouvernance de l’IA est une condition préalable absolue pour accéder au marché mondial.

◆ Les défis des entreprises de soins de santé à l'ère de la loi fondamentale post-IA

Les entreprises pharmaceutiques, bio et numériques de soins de santé doivent abandonner l’approche défensive consistant à éviter les réglementations et passer à une stratégie visant à garantir une compétitivité durable basée sur la sécurité et la confiance des patients. Une réponse réactive après l'apparition d'un problème représente un coût, mais l'établissement d'un système de contrôle dès la phase de conception s'apparente à un investissement stratégique qui protège la valeur de l'entreprise. A cette fin, nous proposons les tâches suivantes :

① Systématisation de la responsabilité médicale vérifiable

Un journal d'audit doit être établi dès la phase de planification du produit au cours duquel le personnel médical ou les chercheurs des sites cliniques examinent les résultats dérivés de l'IA et enregistrent systématiquement le processus de modification ou de rejet des résultats dérivés de l'IA lorsque cela est nécessaire sur la base d'un jugement médical dans le DME (dossier médical électronique) ou le système de recherche clinique. Il s’agira d’un outil de défense clé pour prouver que les entreprises et la direction ont rempli leur devoir de diligence raisonnable lors de futurs litiges médicaux ou procès d’actionnaires dus à des échecs cliniques.

② Réorganisation de la structure contractuelle pour l'ensemble de la chaîne de valeur de l'IA médicale

Les risques doivent être clarifiés lors du recours à un modèle de fondation externe pour développer de nouveaux stupéfiants et dispositifs thérapeutiques numériques ou lors de la fourniture de solutions d'IA aux hôpitaux et aux pharmacies. Il est essentiel de déterminer comment répartir les responsabilités en cas de défauts techniques, d'erreurs de diagnostic et de fuites de données médicales sensibles, et d'établir une structure contractuelle sophistiquée de répartition des risques entre le fournisseur de solution et l'institution introductrice, telle que les hôpitaux.

③ Mise en place d'un système de Compliance by Design qui donne la priorité à la sécurité des patients

Dans les entreprises de soins de santé qui s'occupent de la vie, le risque lié à l'IA n'est pas seulement un problème pour un service de développement informatique spécifique, mais un problème de gouvernance à l'échelle de l'entreprise qui déterminera la survie de l'entreprise. Une structure de gouvernance est nécessaire pour établir un système de contrôle dans lequel les départements des affaires médicales, de la RA, des affaires juridiques et de la sécurité de l'information participent dès le début de la planification du pipeline et du développement de solutions, et pour gérer cela comme un programme clé au niveau du conseil d'administration à tout moment.

◆ Au-delà de l'illusion de la légalité, à la prime de la confiance des patients

L'interprétation flexible de la réglementation par le gouvernement offre aux entreprises de soins de santé une période privilégiée pour l'innovation technologique, et ne les dispense pas de la stricte obligation de gérer les risques directement liés à la vie des patients. À l’ère de la Loi fondamentale sur l’IA de 2026, la véritable compétitivité du K-Bio et des soins de santé numériques ne vient pas du franchissement étroit des frontières des réglementations en matière de licences.

Seules les entreprises qui établissent de manière proactive une gouvernance transparente et vérifiable de l’IA médicale peuvent être évaluées par les partenaires mondiaux et les patients comme un partenaire de confiance pour leur vie et leur santé. Une gouvernance solide de l’IA n’est pas un coût irrécupérable, mais la meilleure allocation stratégique du capital qui protège la valeur intrinsèque de l’entreprise et la sécurité des patients.

Les défis auxquels est confronté l’écosystème de la santé suite à la mise en œuvre de la loi-cadre sur l’IA sont clairs. La légalité n'est que la norme minimale. La confiance des patients ne s’obtient pas grâce à l’octroi de licences, mais est plutôt prouvée par les contrôles, les dossiers et les structures de responsabilité que l’entreprise avait mis en place au moment du conflit.

|Contribution| Seohyung Lee, avocat de Cabinet d'avocats Daeryun (SELAS)

[Voir l'article complet]
[Contribution] Point d'inflexion stratégique pour les entreprises de soins de santé après la mise en œuvre de l'IA Basic Act (lien)