[Вклад] Стратегический переломный момент для медицинских компаний после вступления в силу Закона об искусственном интеллекте
Вступление в эпоху управления «медицинским судебным риском», выходящим за рамки соблюдения лицензий. Адвокат Сохён Ли из юридической фирмы «Дэрюн» (Limited). С момента принятия Основного закона о развитии искусственного интеллекта и создании фонда доверия (далее «Рамочный закон об искусственном интеллекте») фармацевтическая, биологическая и цифровая отрасли здравоохранения, похоже, в некоторой степени избежали нормативной неопределенности. Это связано с тем, что правительство гибко интерпретирует сферу применения высокоэффективного искусственного интеллекта, непосредственно связанного с жизнью и здоровьем, принимая во внимание продвижение отрасли здравоохранения и инноваций, и действует с относительно ограниченными правилами в отношении решений диагностической помощи, которые требуют вмешательства медицинских работников, таких как врачи и фармацевты. Такой политический подход является разумной мерой для поддержания темпов развития технологий цифрового здравоохранения. В частности, система административного регулирования в сфере здравоохранения также прочно укоренилась: в соответствии с Законом о цифровых медицинских продуктах, который со всей серьезностью применяется, был запущен специальный механизм одобрения Министерства безопасности пищевых продуктов и лекарств для программного обеспечения медицинского оборудования (SaMD). Однако стабилизация этой нормативно-правовой базы не означает разрешения правовых рисков. Скорее всего, отныне судебная ответственность медицинского ИИ, скорее всего, будет подвергнута серьезному испытанию. ◆ Правовой разрыв между формальным вмешательством и фактическим контролем в клинических условиях. Некоторые компании цифрового здравоохранения могут попытаться преодолеть порог высокоэффективного регулирования ИИ, подвергая свои решения ИИ финальной стадии одобрения медицинским персоналом или фармацевтами. Однако, когда возникает медицинский спор и становится предметом решения суда, основное внимание уделяется не «наличию вмешательства медицинского персонала», а тому, выполняло ли это вмешательство «существенную функцию клинического контроля», непосредственно связанную с жизнью пациента. Например, предположим, что ИИ при ранней диагностике рака неправильно диагностировал злокачественную опухоль, потому что не смог получить достаточно данных от пациенток определенного возраста, или что алгоритм рекомендаций по дозировке противораковых препаратов недооценил уровни функции печени, что привело к серьезным побочным эффектам. В настоящее время суд не просто смотрит на то, нажал ли «медицинский персонал кнопку окончательного одобрения». Мы всесторонне определим, предоставил ли ИИ клинические доказательства и объяснительный потенциал на уровне, который медицинский персонал может разумно просмотреть, и существует ли в компании система контроля для перекрестной проверки алгоритмической предвзятости и ошибок. Если система спроектирована так, что процесс одобрения осуществляется механически, без предметной проверки без учета особенностей загруженных клинических баз, то так называемое вмешательство человека может быть обращено вспять как ситуация, показывающая фатальный недостаток в системе управления безопасностью продукции, а не как логика иммунитета для медицинских компаний. Это можно распространить на управленческий риск, где вопрос заключается в том, создало ли руководство разумную систему внутреннего контроля и контролирует ли она ее. В случае возникновения значительного ущерба для пациентов нельзя исключать возможность того, что это может привести к судебному иску акционеров или нарушению надзорных обязательств совета директоров. ◆ Новые стандарты для глобальных партнерских отношений с крупными фармацевтическими компаниями и зарубежных рынков B2B. С 2026 года, с полномасштабным применением Закона ЕС об искусственном интеллекте (Закон об искусственном интеллекте), мировой рынок здравоохранения уже требует высочайшего уровня управления медицинским искусственным интеллектом. Когда глобальные транснациональные фармацевтические компании (Big Pharma) или крупные медицинские учреждения обсуждают экспорт новых технологий производства лекарственных препаратов или совместные клинические контракты с компаниями K-healthcare, они не просто спрашивают, соблюдают ли они руководящие принципы Министерства безопасности пищевых продуктов и лекарств Кореи. Существует тенденция запрашивать конкретные данные для подтверждения легитимности конфиденциальных медицинских данных пациентов, используемых для обучения, прозрачности алгоритмов прогнозирования и общекорпоративной системы контроля биоэтики. Тот факт, что внутренние правила можно обойти, не является достаточным объяснением строгим иностранным партнерам или регулирующим органам (FDA, EMA и т. д.). Скорее, если внутренняя система управления медицинским искусственным интеллектом недостаточна, это может привести к исключению из глобальной цепочки поставок в сфере здравоохранения, а также к принятию очень фатальных положений о заверениях и гарантиях в контрактах. Сегодня в фармацевтической и медицинской отраслях управление ИИ является абсолютным условием доступа к мировому рынку. ◆ Проблемы для медицинских компаний в эпоху после принятия Основного закона об искусственном интеллекте. Фармацевтические, биологические и цифровые медицинские компании должны отказаться от защитного подхода, заключающегося в обходе правил, и перейти к стратегии обеспечения устойчивой конкурентоспособности, основанной на безопасности и доверии пациентов. Реактивное реагирование после возникновения проблемы требует затрат, но создание системы контроля на этапе проектирования близко к стратегическим инвестициям, которые защищают корпоративную ценность. С этой целью мы предлагаем следующие задачи: ① Систематизация доказуемой медицинской ответственности. Журнал аудита должен быть создан на этапе планирования продукта, на котором медицинский персонал или исследователи в клинических учреждениях просматривают результаты, полученные с помощью ИИ, и систематически записывают процесс изменения или отклонения результатов, полученных с помощью ИИ, когда это необходимо, на основе медицинского заключения в EMR (электронная медицинская карта) или системе клинических исследований. Это станет ключевым инструментом защиты, позволяющим доказать, что компании и руководство выполнили свою обязанность проявлять разумную осторожность в будущих медицинских спорах или исках акционеров из-за клинических неудач. ② Реорганизовать структуру контрактов для всей цепочки создания стоимости медицинского ИИ. Необходимо уточнить риски при использовании модели внешнего фонда для разработки новых лекарств и устройств цифрового лечения или при поставке решений искусственного интеллекта в больницы и аптеки. Крайне важно определить, как распределить ответственность из-за технических дефектов, неправильного диагноза и утечек конфиденциальных медицинских данных, а также создать сложную структуру контракта о распределении рисков между поставщиком решения и внедряющим учреждением, например, больницами. ③ Создание системы Compliance by Design, в которой приоритетом является безопасность пациентов. В медицинских компаниях, которые занимаются жизнью, риск ИИ — это не просто проблема конкретного отдела ИТ-разработки, но проблема управления в масштабах всей компании, от которой зависит выживание компании. Требуется структура управления, которая устанавливает систему контроля, в которой отделы по медицинским вопросам, РА, юридическим вопросам и информационной безопасности участвуют с самого начала планирования конвейера и разработки решений, и постоянно управляет этим как ключевой повесткой дня на уровне совета директоров. ◆ Помимо иллюзии законности, гибкая интерпретация правительством правил с премией к доверию пациентов предоставляет медицинским компаниям золотое время для технологических инноваций, а не освобождает их от строгого обязательства управлять рисками, непосредственно связанными с жизнью пациентов. В эпоху Основного закона об искусственном интеллекте 2026 года истинная конкурентоспособность K-Bio и цифрового здравоохранения достигается не за счет узкого пересечения границ правил лицензирования. Только компании, которые активно внедряют прозрачное и поддающееся проверке управление медицинским искусственным интеллектом, могут быть оценены глобальными партнерами и пациентами как партнер, которому они могут доверять в своей жизни и здоровье. Надежное управление искусственным интеллектом — это не невозвратные затраты, а лучшее стратегическое распределение капитала, которое защищает внутреннюю ценность компании и безопасность пациентов. Проблемы, с которыми сталкивается экосистема здравоохранения после реализации Закона о системе искусственного интеллекта, очевидны. Законность – это лишь минимальный стандарт. Доверие пациентов не достигается за счет лицензирования, а скорее подтверждается тем, какие структуры контроля, учета и подотчетности существовали в компании на момент конфликта. |Вклад| Адвокат Сохён Ли из юридической фирмы «Дэрюн» (Limited)[Просмотреть полную статью]
[Вклад] Стратегический переломный момент для компаний здравоохранения после вступления в силу Закона об искусственном интеллекте (перейти сюда)