[Contribution] Défis liés aux aspects juridiques et éthiques des dispositifs médicaux basés sur l'IA et l'IoT

Le contributeur et Pharmaceutical Newspaper ont prévu une série liée aux dispositifs médicaux. Dans cette contribution, nous examinerons les défis éthiques et réglementaires des dispositifs médicaux basés sur l’IA et l’IoT.

1. Nouveau paradigme des dispositifs médicaux

Alors que l’engouement pour l’IA représenté par ChatGPT se répand dans toute la société, les technologies d’intelligence artificielle (IA) et d’Internet des objets (IoT) sont également rapidement introduites dans les milieux médicaux. Il n'est plus rare de voir un logiciel d'IA qui apprend les données d'image, détecter précocement des maladies majeures telles que le cancer et les maladies cardiovasculaires, et surveiller l'ECG, la glycémie et les habitudes de sommeil des patients 24 heures sur 24 grâce à des appareils portables IoT.

Cependant, ces changements innovants s’accompagnent de défis juridiques et éthiques. « Qui est responsable si le diagnostic posé par l'IA est erroné ? », « Dans quelle mesure les données des patients sont-elles collectées via les appareils IoT ? » De telles questions sont désormais devenues une réalité incontournable.

2. Caractéristiques des dispositifs médicaux IA/IoT – produits difficiles à réglementer dans le cadre du système réglementaire existant

Capacité d’apprentissage de l’algorithme d’IA :Une fois qu’un dispositif médical existant reçoit l’approbation, sa structure et ses performances sont fixées. Cependant, les appareils IA/IoT ont des caractéristiques fondamentalement différentes. En d’autres termes, les performances des algorithmes d’IA sont mises à jour à mesure que les données d’apprentissage augmentent, et parfois la méthode de prédiction elle-même peut changer.

Mises à jour fréquentes :Grâce à l'apprentissage ci-dessus, des correctifs logiciels, le remplacement des ensembles de données et des mises à jour dans le cloud sont effectués, et les dispositifs médicaux d'IA changent fréquemment en conséquence. Il y a peu de changement dans les exigences d'approbation pour les dispositifs médicaux existants après l'approbation, et la loi actuelle sur les dispositifs médicaux est promulguée pour répondre à ces caractéristiques. Cependant, les dispositifs médicaux IA peuvent être difficiles à réglementer dans le cadre des systèmes d’approbation existants en raison des mises à jour fréquentes.

Les deux faces de la connectivité IoT: La surveillance à distance et la liaison avec le cloud sont possibles grâce à une connexion réseau continue, et la commodité qui en résulte est considérable, mais les risques de sécurité augmentent également en conséquence.

Existence de domaines difficiles à réglementer dans le cadre du système actuel de droit médical et de droit des dispositifs médicaux : pour les dispositifs médicaux existants, le médecin fait l'objet du diagnostic final, c'est donc au médecin qu'incombe la responsabilité finale. Cependant, dans le cas des logiciels d’IA qui prennent leurs propres décisions sur la base des données d’apprentissage, les dispositifs médicaux peuvent même effectuer des diagnostics, ce qui rend difficile de savoir qui porte la responsabilité juridique ultime.

Ces caractéristiques sont des facteurs qui rendent difficile la réglementation des dispositifs médicaux IA/IoT, entraînant divers problèmes juridiques et éthiques.

3. Défis éthiques – questions de droits et de responsabilités des patients

aller. Manque de transparence dans le processus décisionnel

Le processus décisionnel de l’IA s’apparente à une « boîte noire ». En fait, même si les recherches sont toujours en cours, on dit qu'il est difficile pour les humains d'expliquer le processus de pensée de ChatGPT. Cela signifie qu’il nous est difficile de comprendre pleinement comment pense l’IA.

Les patients et le personnel médical reçoivent des diagnostics grâce à l’IA, mais il est difficile de savoir comment les résultats ont été obtenus. Cela peut entraîner une violation du droit du patient à l'autodétermination ou une incertitude quant au lieu de la responsabilité juridique.

moi. Responsabilité peu claire

Les entités suivantes sont impliquées dans des activités de diagnostic utilisant des dispositifs médicaux d’IA, mais la répartition des responsabilités entre elles n’est toujours pas claire.

• Personnel médical : médecin qui a posé le diagnostic final et la décision de traitement.
• Fabricant : entreprise de dispositifs médicaux qui a conçu l'algorithme
• Hôpital : établissement qui a introduit le dispositif et l'a utilisé sur des patients.

tous. Risques en matière de confidentialité et de sécurité

Transmission de données en temps réel via des appareils IoTLe risque de piratage suit inévitablement tout au long du processus. Si des informations sensibles sur la santé, telles que l'électrocardiogramme ou les relevés de glycémie d'un patient, sont divulguées, les droits moraux du patient peuvent être gravement violés.

De plus, les informations sur la santé des patients sont utilisées pour apprendre le logiciel de diagnostic de l'IA, mais le contributeur comprend qu'il existe encore de nombreux cas « d'apprentissage de l'IA » sans le consentement approprié pour l'utilisation des informations personnelles. Même si cela n’est pas encore devenu un problème, la question de la violation des renseignements personnels peut également se poser à cet égard.

4. Défis réglementaires
Dans le cas de la Corée, les dispositifs médicaux logiciels (SaMD) sont réglementés par la loi sur les dispositifs médicaux et la loi sur les produits médicaux numériques récemment promulguée, et le système de bac à sable réglementaire est utilisé pour simultanément autoriser et vérifier temporairement les nouvelles technologies. Cependant, il manque des réglementations spécifiques sur « l’apprentissage continu » des algorithmes d’IA, la responsabilité et la protection des informations personnelles mentionnées ci-dessus.

Les États-Unis (FDA) publient sur leur site Web les directives relatives à l’IA/ML SaMD. La principale caractéristique de la réglementation de l’Union européenne (UE) est la double approche réglementaire. L'Agence européenne des stupéfiants (EMA) gère les dispositifs médicaux basés sur l'IA dans le cadre du règlement sur les dispositifs médicaux (MDR) et de la loi sur l'intelligence artificielle (AIA).

Le MDR spécifie les exigences en matière de conception, de développement, d'évaluation clinique et de surveillance après commercialisation des dispositifs médicaux, y compris les dispositifs médicaux basés sur l'IA, tandis que l'AIA spécifie les exigences en matière de classification basée sur les risques, de transparence et de surveillance humaine.

Les entreprises d’IA médicale doivent respecter des normes strictes lorsqu’elles entrent sur les marchés américain et européen pour entrer sur le marché, elles doivent donc s’y préparer. De plus, les réglementations nationales sont encore en cours d’élaboration, il semble donc nécessaire de se préparer à l’avance à des réglementations qui deviendront plus strictes.

5. Conclusion

Les dispositifs médicaux basés sur l’IA/IoT révolutionnent déjà la vie des patients, et cette tendance va certainement s’accélérer encore. Cependant, le problème est qu’il existe encore un écart important entre la vitesse du développement technologique et la vitesse de développement des systèmes juridiques et éthiques. 

En particulier, personne n’est en mesure d’expliquer clairement comment traiter les questions éthiques et juridiques évoquées ci-dessus. 

L’innovation en matière de dispositifs médicaux n’est durable que lorsque la sécurité et les droits des patients sont garantis. Des discussions éthiques et réglementaires sont donc nécessaires de toute urgence pour garantir cela. Par conséquent, le contributeur estime qu'un forum de discussion auquel participent ensemble les organismes de réglementation, l'industrie, les professionnels de la santé et la communauté juridique est nécessaire.

Dans le même temps, il est clair que les réglementations gouvernementales liées aux dispositifs médicaux basés sur l’IA/IoT seront renforcées dans le cadre d’une tendance générale. Certaines réglementations peuvent nécessiter des difficultés technologiques considérables, et on estime que les industries concernées doivent s'y préparer de manière proactive.

Contributeur : avocat Ilhyung Lee (ilhyunglee@naver.com)
Réussite de l'examen d'avocat/pharmacien/conseil en brevets/expert-comptable américain (Maine)
(Ancien) Avocat chez Celltrion Domestic Legal Team
(Actuel) Directeur du groupe pharmaceutique médical Cabinet d'avocats Daeryun (SELAS)/centre de bio-santé pharmaceutique

[Voir l'article complet]
[Contribution] Défis juridiques et éthiques des dispositifs médicaux basés sur l'IA et l'IoT