[Вклад] Стратегический переломный момент для медицинских компаний после вступления в силу Закона об искусственном интеллекте

Переход от соблюдения требований лицензирования к эпохе управления «рисками в сфере медицинского правосудия»
Адвокат Сохён Ли из юридической фирмы «Дэрюн» (Limited)

С момента принятия Основного закона о развитии искусственного интеллекта и создании фонда доверия (далее «Основной закон об искусственном интеллекте») фармацевтическая, био- и цифровая отрасли здравоохранения в некоторой степени освободились от нормативной неопределенности. Это связано с тем, что правительство гибко интерпретирует сферу применения высокоэффективного искусственного интеллекта, непосредственно связанного с жизнью и здоровьем, принимая во внимание продвижение отрасли здравоохранения и инноваций, и действует с относительно ограниченными правилами в отношении решений диагностической помощи, которые требуют вмешательства медицинских работников, таких как врачи и фармацевты.

Такой политический подход является разумной мерой для поддержания темпов развития технологий цифрового здравоохранения. В частности, система административного регулирования в сфере здравоохранения также прочно укоренилась: в соответствии с Законом о цифровых медицинских продуктах, который со всей серьезностью применяется, был запущен специальный механизм одобрения Министерства безопасности пищевых продуктов и лекарств для программного обеспечения медицинского оборудования (SaMD).

Однако стабилизация этой нормативно-правовой базы не означает разрешения правовых рисков. Скорее всего, отныне судебная ответственность медицинского ИИ, скорее всего, будет подвергнута серьезному испытанию.

◆ Правовой разрыв между формальным вмешательством и фактическим контролем в клинических условиях.

Некоторые компании, занимающиеся цифровым здравоохранением, могут попытаться преодолеть порог строгих правил в области искусственного интеллекта, требуя одобрения медицинского персонала или фармацевтов на заключительном этапе своих решений в области искусственного интеллекта. Однако, когда возникает медицинский спор и становится предметом решения суда, основное внимание уделяется не «наличию вмешательства медицинского персонала», а тому, выполняло ли это вмешательство «существенную функцию клинического контроля», непосредственно связанную с жизнью пациента.

Например, предположим, что ИИ при ранней диагностике рака неправильно диагностировал злокачественную опухоль, потому что не смог получить достаточно данных от пациенток определенного возраста, или что алгоритм рекомендаций по дозировке противораковых препаратов недооценил уровни функции печени, что привело к серьезным побочным эффектам. В настоящее время суд не просто смотрит на то, нажал ли «медицинский персонал кнопку окончательного одобрения». Мы всесторонне определим, предоставил ли ИИ клинические доказательства и объяснительный потенциал на уровне, который медицинский персонал может разумно просмотреть, и существует ли в компании система контроля для перекрестной проверки алгоритмической предвзятости и ошибок.

Если система спроектирована так, что процесс одобрения осуществляется механически, без предметной проверки без учета особенностей загруженных клинических баз, то так называемое вмешательство человека может быть обращено вспять как ситуация, показывающая фатальный недостаток в системе управления безопасностью продукции, а не как логика иммунитета для медицинских компаний. Это можно распространить на управленческий риск, где вопрос заключается в том, создало ли руководство разумную систему внутреннего контроля и контролирует ли она ее. В случае возникновения значительного ущерба для пациентов нельзя исключать возможность того, что это может привести к судебному иску акционеров или нарушению надзорных обязательств совета директоров.

◆ Новый стандарт в глобальном партнерстве с крупными фармацевтическими компаниями и на зарубежных рынках B2B.

По состоянию на 2026 год, благодаря полномасштабному применению Закона ЕС об искусственном интеллекте (Закон об искусственном интеллекте), мировой рынок здравоохранения уже требует высочайшего уровня управления медицинским искусственным интеллектом. Когда глобальные транснациональные фармацевтические компании (Big Pharma) или крупные медицинские учреждения обсуждают экспорт новых технологий производства лекарственных препаратов или совместные клинические контракты с компаниями K-healthcare, они не просто спрашивают, соблюдают ли они руководящие принципы Министерства безопасности пищевых продуктов и лекарств Кореи. Существует тенденция запрашивать конкретные данные для подтверждения легитимности конфиденциальных медицинских данных пациентов, используемых для обучения, прозрачности алгоритмов прогнозирования и общекорпоративной системы контроля биоэтики.

Тот факт, что внутренние правила можно обойти, не является достаточным объяснением строгим иностранным партнерам или регулирующим органам (FDA, EMA и т. д.). Скорее, если внутренняя система управления медицинским искусственным интеллектом недостаточна, это может привести к исключению из глобальной цепочки поставок в сфере здравоохранения, а также к принятию очень фатальных положений о заверениях и гарантиях в контрактах. Сегодня в фармацевтической и медицинской отраслях управление ИИ является абсолютным условием доступа к мировому рынку.

◆ Проблемы для медицинских компаний в эпоху после отмены Основного закона об искусственном интеллекте

Фармацевтические, биологические и цифровые компании здравоохранения должны отказаться от защитного подхода, заключающегося в обходе правил, и перейти к стратегии обеспечения устойчивой конкурентоспособности, основанной на безопасности и доверии пациентов. Реактивное реагирование после возникновения проблемы требует затрат, но создание системы контроля на этапе проектирования близко к стратегическим инвестициям, которые защищают корпоративную ценность. Для этого мы предлагаем следующие задачи:

① Систематизация поддающейся проверке медицинской ответственности

Журнал аудита должен вестись на этапе планирования продукта, на котором медицинский персонал или исследователи в клинических учреждениях просматривают результаты, полученные с помощью ИИ, и систематически записывают процесс изменения или отклонения результатов, полученных с помощью ИИ, когда это необходимо, на основании медицинского заключения в EMR (электронной медицинской карте) или системе клинических исследований. Это станет ключевым инструментом защиты, позволяющим доказать, что компании и руководство выполнили свою обязанность проявлять разумную осторожность в будущих медицинских спорах или исках акционеров из-за клинических неудач.

② Реорганизация структуры контрактов для всей цепочки создания стоимости медицинского ИИ.

Необходимо уточнить риски при использовании внешней модели фундамента для разработки новых лекарств и цифровых терапевтических устройств или при поставке решений искусственного интеллекта в больницы и аптеки. Крайне важно определить, как распределить ответственность из-за технических дефектов, неправильного диагноза и утечек конфиденциальных медицинских данных, а также создать сложную структуру контракта о распределении рисков между поставщиком решения и внедряющим учреждением, например, больницами.

③ Создание системы соответствия требованиям при проектировании, в которой безопасность пациентов является приоритетом.

В медицинских компаниях, которые занимаются жизнью, риск ИИ — это не просто проблема конкретного отдела ИТ-разработки, а проблема управления всей компанией, от которой зависит выживание компании. Требуется структура управления, которая устанавливает систему контроля, в которой отделы по медицинским вопросам, РА, юридическим вопросам и информационной безопасности участвуют с самого начала планирования конвейера и разработки решений, и постоянно управляет этим как ключевой повесткой дня на уровне совета директоров.

◆ За пределами иллюзии законности, к награде за доверие пациентов

Гибкая интерпретация правительством нормативных актов предоставляет медицинским компаниям золотое время для технологических инноваций, но не освобождает их от строгого обязательства управлять рисками, непосредственно связанными с жизнью пациентов. В эпоху Основного закона об искусственном интеллекте 2026 года истинная конкурентоспособность K-Bio и цифрового здравоохранения достигается не за счет узкого пересечения границ правил лицензирования.

Только компании, которые активно внедряют прозрачное и поддающееся проверке управление медицинским искусственным интеллектом, могут быть оценены глобальными партнерами и пациентами как партнер, которому они могут доверять в своей жизни и здоровье. Надежное управление искусственным интеллектом — это не невозвратные затраты, а лучшее стратегическое распределение капитала, которое защищает внутреннюю ценность компании и безопасность пациентов.

Проблемы, с которыми сталкивается экосистема здравоохранения после реализации Закона о системе искусственного интеллекта, очевидны. Законность – это лишь минимальный стандарт. Доверие пациентов не достигается за счет лицензирования, а скорее подтверждается тем, какие структуры контроля, учета и подотчетности существовали в компании на момент конфликта.

|Вклад| Адвокат Сохён Ли из юридической фирмы «Дэрюн» (Limited)

[Посмотреть статью полностью]
[Вклад] Стратегический переломный момент для медицинских компаний после вступления в силу Закона об искусственном интеллекте (ссылка)