[Contribución] Desafíos en los aspectos legales y éticos de la IA y los dispositivos médicos basados en IoT

El colaborador del Periódico Farmacéutico planeó una serie relacionada con los dispositivos médicos. En esta contribución, examinaremos los desafíos éticos y regulatorios de la IA y los dispositivos médicos basados ​​en IoT.

1. Nuevo paradigma de los dispositivos médicos

Si bien la moda de la IA representada por ChatGPT se está extendiendo por toda la sociedad, las tecnologías de inteligencia artificial (IA) e Internet de las cosas (IoT) también se están introduciendo rápidamente en entornos médicos. Ya no es extraño ver software de inteligencia artificial que aprende datos de imágenes, detecta enfermedades importantes como el cáncer y las enfermedades cardiovasculares de manera temprana y monitorea el ECG, el azúcar en la sangre y los patrones de sueño de los pacientes las 24 horas del día a través de dispositivos portátiles de IoT.

Sin embargo, estos cambios innovadores van acompañados de desafíos legales y éticos. “¿Quién es responsable si el diagnóstico realizado por la IA es incorrecto?”, “¿Qué tan seguros son los datos de los pacientes recopilados a través de dispositivos IoT?” Preguntas como estas se han convertido ahora en una realidad inevitable.

2. Características de los dispositivos médicos AI/IoT: productos que son difíciles de regular según el sistema regulatorio existente

Capacidad de aprendizaje del algoritmo de IA:Una vez que un dispositivo médico existente recibe la aprobación, se fijan su estructura y rendimiento. Sin embargo, los dispositivos AI/IoT tienen características fundamentalmente diferentes. En otras palabras, el rendimiento de los algoritmos de IA se actualiza a medida que aumentan los datos de aprendizaje y, a veces, el método de predicción en sí puede cambiar.

Actualizaciones frecuentes:A través del aprendizaje anterior, se realizan parches de software, reemplazo de conjuntos de datos y actualizaciones en la nube, y los dispositivos médicos de IA cambian con frecuencia en consecuencia. Hay pocos cambios en los requisitos de aprobación para los dispositivos médicos existentes después de la aprobación, y la Ley de Dispositivos Médicos existente se promulga para adaptarse a estas características. Sin embargo, los dispositivos médicos con IA pueden resultar difíciles de regular según los sistemas de aprobación existentes debido a las frecuentes actualizaciones.

Los dos lados de la conectividad IoT: El monitoreo remoto y la conexión a la nube son posibles a través de una conexión de red continua, y la conveniencia resultante es considerable, pero los riesgos de seguridad también aumentan como reacción.

Existencia de áreas que son difíciles de regular bajo el actual sistema de leyes médicas y de dispositivos médicos: Para los dispositivos médicos existentes, el médico es el sujeto del diagnóstico final, por lo que el médico tiene la responsabilidad final. Sin embargo, en el caso del software de inteligencia artificial que toma sus propias decisiones basándose en datos de aprendizaje, los dispositivos médicos pueden incluso realizar diagnósticos, lo que no deja claro quién tiene la responsabilidad legal final.

Estas características son factores que dificultan la regulación de los dispositivos médicos AI/IoT, lo que genera diversas cuestiones legales y éticas.

3. Desafíos éticos: cuestiones de derechos y responsabilidades de los pacientes

A. Falta de transparencia en el proceso de toma de decisiones

El proceso de toma de decisiones de la IA está cerca de una “caja negra”. De hecho, aunque la investigación aún está en curso, se dice que es difícil para los humanos explicar el proceso de pensamiento de ChatGPT. Esto significa que nos resulta difícil comprender completamente cómo piensa la IA.

Los pacientes y el personal médico reciben diagnósticos de la IA, pero es difícil saber cómo se obtuvieron los resultados. Esto puede tener como resultado que se viole el derecho del paciente a la autodeterminación o que la ubicación de la responsabilidad legal se vuelva confusa.

B. Responsabilidad poco clara

Las siguientes entidades participan en actividades de diagnóstico utilizando dispositivos médicos de IA, pero la distribución de responsabilidad entre ellas aún no está clara.

• Personal médico: Médico que tomó la decisión final sobre el diagnóstico y el tratamiento.
• Fabricante: empresa de dispositivos médicos que diseñó el algoritmo.
• Hospital: Institución que introdujo el dispositivo y lo utilizó en pacientes

todo. Riesgos de privacidad y seguridad

Transmisión de datos en tiempo real a través de dispositivos IoTEl riesgo de piratería sigue inevitablemente el proceso. Si se filtra información médica confidencial, como el electrocardiograma o los registros de azúcar en sangre de un paciente, los derechos morales del paciente pueden verse gravemente violados.

Además, la información de salud de los pacientes se utiliza para aprender software de diagnóstico de IA, pero el colaborador entiende que todavía hay muchos casos de "aprendizaje de IA" sin el consentimiento adecuado para el uso de información personal. Aunque todavía no se ha convertido en un problema, la cuestión de la infracción de información personal también puede surgir en este sentido.

4. Desafíos regulatorios
En el caso de Corea, los dispositivos médicos de software (SaMD) están regulados a través de la Ley de Dispositivos Médicos y la Ley de Productos Médicos Digitales recientemente promulgada, y el sistema regulatorio sandbox se utiliza para permitir y verificar simultáneamente nuevas tecnologías de manera temporal. Sin embargo, faltan regulaciones específicas sobre el "aprendizaje continuo" de los algoritmos de IA, la responsabilidad y las cuestiones de protección de la información personal mencionadas anteriormente.

Los EE. UU. (FDA) publican directrices relacionadas con AI/ML SaMD en su sitio web. La característica principal de la regulación de la Unión Europea (UE) es el enfoque regulatorio dual. La Agencia Europea de Medicamentos (EMA) gestiona los dispositivos médicos basados ​​en IA según el Reglamento de Dispositivos Médicos (MDR) y la Ley de Inteligencia Artificial (AIA).

MDR especifica requisitos para el diseño, desarrollo, evaluación clínica y vigilancia posterior a la comercialización de dispositivos médicos, incluidos los dispositivos médicos basados ​​en IA, mientras que AIA especifica requisitos de clasificación, transparencia y supervisión humana basados ​​en riesgos.

Las empresas de IA médica deben cumplir estándares estrictos al ingresar a los mercados estadounidense y europeo para ingresar al mercado, por lo que deben prepararse para esto. Además, todavía se están estableciendo regulaciones nacionales, por lo que parece necesario prepararse con anticipación para regulaciones que serán más estrictas.

5. Conclusión

Los dispositivos médicos basados ​​en IA/IoT ya están revolucionando la vida de los pacientes, y es seguro que esta tendencia se acelerará aún más. Sin embargo, el problema es que todavía existe una gran brecha entre la velocidad del desarrollo tecnológico y la velocidad del desarrollo de los sistemas legales y éticos.

En particular, nadie es capaz de explicar claramente cómo abordar las cuestiones éticas y legales discutidas anteriormente.

La innovación en dispositivos médicos es sostenible sólo cuando se garantizan la seguridad y los derechos del paciente, por lo que se necesitan con urgencia debates éticos y regulatorios para garantizar esto. Por lo tanto, el colaborador cree que es necesario un foro de discusión en el que participen juntos las agencias reguladoras, la industria, los profesionales médicos y la comunidad jurídica.

Mientras tanto, está claro que las regulaciones gubernamentales relacionadas con los dispositivos médicos basados ​​en IA/IoT se reforzarán como tendencia general. Algunas regulaciones pueden requerir dificultades tecnológicas considerables y se cree que las industrias relacionadas deben prepararse de manera proactiva para ello.

Colaborador: Abogado Ilhyung Lee (ilhyunglee@naver.com)
Aprobó el examen de abogado/farmacéutico/abogado de patentes/contador público estadounidense (Maine)
(Ex) Abogado del equipo legal nacional de Celltrion
(Actual) Jefe de Daeryun Medical Pharmaceutical Group/Pharmaceutical Bio Healthcare Center, bufete de abogados (limitado)

[Ver artículo completo]
[Contribución] Desafíos legales y éticos de la IA y los dispositivos médicos basados en IoT