【投稿】AI框架法实施后医疗保健企业的战略拐点

超越许可合规进入“医疗司法风险”管理时代
律师事务所（有限公司）大纶李瑞亨律师

《人工智能发展和建立信任基础基本法》（以下简称《人工智能基本法》）实施以来，医药、生物和数字医疗行业在一定程度上摆脱了监管不确定性。这是因为政府考虑到医疗健康产业的促进和创新，灵活地解释了与生命和健康直接相关的高影响力人工智能的应用范围，并且对需要医生和药剂师等医疗专业人员干预的诊断辅助解决方案的监管相对有限。

这一政策方针是保持数字医疗技术发展势头的合理举措。特别是医疗保健领域的行政监管体系也已牢固建立，通过《数字医疗产品法》启动了食品药品安全部定制的软件医疗器械审批通道（SaMD），并得到认真实施。

然而，监管环境的稳定并不意味着法律风险的解决。相反，医疗人工智能的司法责任很可能从现在开始受到认真的考验。

◆ 临床环境中正式干预与实际控制之间的法律差距

一些数字医疗保健公司可能会在人工智能解决方案的最后阶段要求医务人员或药剂师批准，从而试图克服高影响力人工智能法规的门槛。然而，当医疗纠纷产生并成为法院判决的对象时，焦点不是“医务人员干预的存在”，而是该干预是否发挥了与患者生命直接相关的“实质性临床控制功能”。

例如，假设早期癌症诊断人工智能由于未能从一定年龄的女性患者那里学习足够的数据而误诊了恶性肿瘤，或者抗癌药物剂量推荐算法低估了肝功能水平，导致严重的副作用。此时，法院不会简单地看“医务人员是否按下了最终批准按钮”。我们将综合判断人工智能是否提供了医务人员可以合理审查的水平的临床证据和解释潜力，以及公司内部是否存在交叉验证算法偏差和错误的控制系统。

如果系统设计成机械式地进行审批，不进行实质性验证，不考虑临床现场繁忙的特点，所谓的人为干预可能会被倒转为产品安全管理体系存在致命缺陷的情况，而不是医疗保健企业的免疫逻辑。这可以扩展到治理风险，其中的问题是管理层是否建立并监督了合理的内部控制体系。如果发生重大患者损害，不排除引发股东诉讼或违反董事会监督义务的可能性。

◆ 全球大型制药合作伙伴和海外 B2B 市场的新标准

截至2026年，随着欧盟AI法案（人工智能法案）的全面应用，全球医疗市场已经对医疗AI治理提出了最高水平的要求。当全球跨国制药公司（Big Pharma）或大型医疗机构与韩国医疗保健公司讨论新药材料技术出口或联合临床合同时，他们不会简单地询问是否遵守韩国食品药品安全部的指导方针。有一种趋势是要求提供特定数据来证明用于学习的敏感患者医疗数据的合法性、预测算法的透明度以及全公司的生物伦理控制系统。

可以避免国内法规这一事实不足以向严格的外国合作伙伴或监管机构（FDA、EMA 等）解释。相反，如果内部医疗人工智能治理体系不足，可能会导致被排除在全球医疗保健供应链之外，并接受合同中非常致命的陈述和保证条款。现在，在医药健康行业，人工智能治理是进入全球市场的绝对前提。

◆ 后人工智能基本法时代医疗保健企业面临的挑战

制药、生物和数字医疗保健公司必须放弃规避监管的防御性方法，转而采取基于患者安全和信任的可持续竞争力战略。问题发生后的反应性响应是有成本的，但在设计阶段建立控制系统则接近于保护企业价值的战略投资。为此，我们提出以下任务：

① 可核实的医疗责任制度化

从产品规划阶段就必须建立审核日志，临床现场的医务人员或研究人员审查人工智能得出的结果，并在必要时根据EMR（电子病历）或临床研究系统中的医学判断系统记录修改或拒绝人工智能得出的结果的过程。这将成为证明公司和管理层在未来因临床失败导致的医疗纠纷或股东诉讼中履行了合理注意义务的关键辩护工具。

② 医疗AI全价值链合约结构重组

使用外部基础模型开发新药和数字治疗设备或向医院和药房提供人工智能解决方案时，必须明确风险。必须确定如何分配因技术缺陷、误诊和敏感医疗数据泄露而导致的责任，并在解决方案提供商和引入机构（例如医院）之间建立复杂的风险分配合同结构。

③ 建立优先考虑患者安全的Compliance by Design体系

在与生命打交道的医疗保健公司中，人工智能风险不仅仅是特定IT开发部门的问题，而是全公司范围内的治理问题，将决定公司的生存。需要一个治理结构来建立一个控制系统，其中医疗事务、RA、法律和信息安全部门从管道规划和解决方案开发一开始就参与其中，并始终将其作为董事会级别的关键议程进行管理。

◆ 超越合法性的幻想，以患者的信任为溢价

政府对法规的灵活解释为医疗保健企业提供了技术创新的黄金时机，但并没有免除它们管理与患者生命直接相关的风险的严格义务。在2026年人工智能基本法时代，K-Bio和数字医疗的真正竞争力并不来自于狭隘地跨越许可法规的界限。

只有主动建立透明、可验证的医疗人工智能治理的公司才能被全球合作伙伴和患者评价为可以信赖的生命和健康合作伙伴。扎实的人工智能治理不是沉没成本，而是保护公司内在价值和患者安全的最佳战略资本配置。

《人工智能框架法案》实施后，医疗保健生态系统面临的挑战是显而易见的。合法性只是最低标准。患者的信任不是通过许可获得的，而是通过公司在冲突发生时所采取的控制、记录和问责结构来证明的。

|贡献|律师事务所（有限公司）大纶李瑞亨律师

[查看全文]
[贡献]《人工智能框架法》实施后医疗保健公司的战略转折点（链接）