[Contribución] Punto de inflexión estratégico para las empresas sanitarias tras la implementación de la Ley Marco de IA

Más allá del cumplimiento de las licencias hacia una era de gestión del “riesgo de justicia médica”
Abogado Seohyung Lee de Bufete de abogados Daeryun (Limitado)

Desde la implementación de la Ley Básica sobre el Desarrollo de la Inteligencia Artificial y la Creación de una Base para la Confianza (en adelante, la Ley Básica sobre IA), las industrias farmacéutica, biológica y de salud digital se han liberado hasta cierto punto de la incertidumbre regulatoria. Esto se debe a que el gobierno interpreta de manera flexible el ámbito de aplicación de la IA de alto impacto directamente relacionada con la vida y la salud teniendo en cuenta la promoción de la industria de la salud y la innovación, y opera con regulaciones relativamente limitadas sobre soluciones de asistencia al diagnóstico que requieren la intervención de profesionales médicos como médicos y farmacéuticos.

Este enfoque político es una medida razonable para mantener el impulso del desarrollo de la tecnología sanitaria digital. En particular, el sistema regulatorio administrativo en el campo de la atención médica también está firmemente establecido, con un proceso de aprobación personalizado del Ministerio de Seguridad de Alimentos y Medicamentos para dispositivos médicos de software (SaMD) que se lanzó a través de la Ley de Productos Médicos Digitales, que se ha implementado en serio.

Sin embargo, la estabilización de este entorno regulatorio no significa la resolución de los riesgos legales. Más bien, es probable que a partir de ahora se ponga a prueba seriamente la responsabilidad judicial de la IA médica.

◆ Brecha legal entre la intervención formal y el control real en entornos clínicos

Algunas empresas de atención médica digital pueden intentar superar el umbral de las regulaciones de IA de alto impacto exigiendo la aprobación del personal médico o farmacéutico en la etapa final de sus soluciones de IA. Sin embargo, cuando surge una disputa médica y se convierte en objeto de una sentencia judicial, la atención no se centra en la "existencia de intervención del personal médico" sino en si esa intervención desempeñó una "función de control clínico sustancial" directamente relacionada con la vida del paciente.

Por ejemplo, supongamos que una IA de diagnóstico temprano de cáncer diagnosticó erróneamente un tumor maligno porque no pudo obtener suficientes datos de pacientes femeninas de cierta edad, o que un algoritmo de recomendación de dosis de medicamentos contra el cáncer subestimó los niveles de función hepática, lo que resultó en efectos secundarios graves. En este momento, el tribunal no se limita a examinar si “el personal médico presionó el botón de aprobación final”. Determinaremos de manera integral si la IA proporcionó evidencia clínica y potencial explicativo a un nivel que el personal médico pueda revisar razonablemente, y si existe un sistema de control para verificar de forma cruzada los sesgos y errores algorítmicos dentro de la empresa.

Si el sistema está diseñado para que el proceso de aprobación se lleve a cabo mecánicamente sin una verificación sustancial y sin considerar las características de los sitios clínicos concurridos, la llamada intervención humana puede revertirse como una situación que muestra una falla fatal en el sistema de gestión de seguridad del producto, más que como una lógica de inmunidad para las empresas de atención médica. Esto puede ampliarse al riesgo de gobernanza, donde la cuestión es si la dirección ha establecido y supervisado un sistema de control interno razonable. Si se producen daños importantes a los pacientes, no se puede descartar la posibilidad de que esto pueda dar lugar a una demanda de los accionistas o al incumplimiento de las obligaciones de supervisión del consejo de administración.

◆ Un nuevo estándar en las asociaciones globales con las grandes farmacéuticas y los mercados B2B en el extranjero

A partir de 2026, con la aplicación a gran escala de la Ley de IA de la UE (Ley de Inteligencia Artificial), el mercado sanitario mundial ya exigirá el más alto nivel de gobernanza de la IA médica. Cuando las compañías farmacéuticas multinacionales globales (Big Pharma) o las grandes instituciones médicas discuten exportaciones de tecnología de nuevos materiales farmacológicos o contratos clínicos conjuntos con compañías K-healthcare, no se limitan a preguntar si cumplen con las directrices del Ministerio de Seguridad de Alimentos y Medicamentos de Corea. Existe una tendencia a solicitar datos específicos para demostrar la legitimidad de los datos médicos confidenciales de los pacientes utilizados para el aprendizaje, la transparencia de los algoritmos de predicción y el sistema de control bioético de toda la empresa.

El hecho de que se puedan evitar las regulaciones nacionales no es una explicación suficiente para los socios extranjeros estrictos o las agencias reguladoras (FDA, EMA, etc.). Más bien, si el sistema interno de gobernanza de la IA médica es insuficiente, puede conducir a la exclusión de la cadena de suministro global de atención médica, así como a la aceptación de cláusulas de Representaciones y Garantías muy fatales en los contratos. Ahora, en las industrias farmacéutica y sanitaria, la gobernanza de la IA es un requisito previo absoluto para acceder al mercado global.

◆ Desafíos para las empresas de atención médica en la era de la ley básica posterior a la IA

Las empresas farmacéuticas, biológicas y digitales de atención sanitaria deben abandonar el enfoque defensivo de evitar las regulaciones y cambiar a una estrategia que garantice una competitividad sostenible basada en la seguridad y la confianza del paciente. La respuesta reactiva después de que ocurre un problema es un costo, pero establecer un sistema de control en la etapa de diseño está cerca de una inversión estratégica que protege el valor corporativo. Para ello nos proponemos las siguientes tareas:

① Sistematización de la responsabilidad médica comprobable

Se debe establecer un registro de auditoría desde la etapa de planificación del producto en el que el personal médico o los investigadores de los sitios clínicos revisan los resultados derivados de la IA y registran sistemáticamente el proceso de modificación o rechazo de los resultados derivados de la IA cuando sea necesario según el criterio médico en el EMR (registros médicos electrónicos) o el sistema de investigación clínica. Esta será una herramienta de defensa clave para demostrar que las empresas y la dirección han cumplido con su deber de diligencia razonable en futuras disputas médicas o demandas de accionistas debido a fallos clínicos.

② Reorganización de la estructura contractual para toda la cadena de valor de la IA médica

Es necesario aclarar los riesgos al utilizar un modelo de base externa para desarrollar nuevos medicamentos y dispositivos terapéuticos digitales o al suministrar soluciones de inteligencia artificial a hospitales y farmacias. Es esencial determinar cómo distribuir la responsabilidad debido a defectos técnicos, diagnósticos erróneos y fugas de datos médicos confidenciales, y establecer una estructura sofisticada de contrato de asignación de riesgos entre el proveedor de la solución y la institución introductora, como los hospitales.

③ Establecimiento de un sistema de Cumplimiento por Diseño que priorice la seguridad del paciente

En las empresas de atención médica que se ocupan de la vida, el riesgo de la IA no es solo un problema para un departamento de desarrollo de TI específico, sino una cuestión de gobernanza de toda la empresa que determinará su supervivencia. Se requiere una estructura de gobernanza que establezca un sistema de control en el que participen los departamentos de Asuntos Médicos, RA, Legal y Seguridad de la Información desde el inicio de la planificación del proceso y el desarrollo de soluciones, y lo gestione como una agenda clave a nivel de la junta directiva en todo momento.

◆ Más allá de la ilusión de legalidad, hacia la prima de la confianza del paciente

La interpretación flexible de las regulaciones por parte del gobierno brinda a las empresas de atención médica un momento dorado para la innovación tecnológica y no las exime de la estricta obligación de gestionar los riesgos directamente relacionados con la vida de los pacientes. En la era de la Ley Básica de IA de 2026, la verdadera competitividad de K-Bio y la atención médica digital no proviene de cruzar por poco los límites de las regulaciones de licencias.

Solo las empresas que establezcan de manera proactiva una gobernanza de la IA médica transparente y verificable pueden ser evaluadas por socios y pacientes globales como un socio en quien pueden confiar sus vidas y su salud. Una gobernanza sólida de la IA no es un costo irrecuperable, sino la mejor asignación estratégica de capital que protege el valor intrínseco de la empresa y la seguridad del paciente.

Los desafíos que enfrenta el ecosistema de la salud tras la implementación de la Ley Marco de IA son claros. La legalidad es sólo el estándar mínimo. La confianza del paciente no se gana mediante la concesión de licencias, sino que se demuestra mediante los controles, registros y estructuras de rendición de cuentas que tenía la empresa en el momento del conflicto.

|Contribución| Abogado Seohyung Lee de Bufete de abogados Daeryun (Limitado)

[Ver artículo completo]
[Contribución] Punto de inflexión estratégico para las empresas sanitarias tras la implementación de la Ley Marco de IA (enlace)