[寄稿] AI・IoTベースの医療機器の法的・倫理的側面挑戦課題

寄稿者と薬業新聞は「医療機器に関するシリーズを企画した。今回の寄稿では、AIおよびIoTベースの医療機器の倫理的、規制的課題について検討しよう。

1. 医療機器の新しいパラダイム

ChatGPTに代弁されるAI熱風が全社会的に吹いている中、医療現場でも人工知能（AI）とモノインターネット（IoT）技術を急速に導入している。映像データを学習したAIソフトウェアががん・心血管疾患など主要疾患を早期発見し、IoTウェアラブル装置を通じて患者の心電図、血糖、睡眠パターンを24時間モニタリングする姿はこれ以上見知らぬ。

しかし、こうした革新的な変化は、法的・倫理的挑戦課題を共に伴っている。 「AIの診断が間違っている場合、誰が責任を負うべきですか？」、「IoTデバイスを介して収集された患者データはどれほど安全ですか？」などの質問はもう避けられない現実になった。

2. AI・IoT医療機器の特性 – 既存の規制体系では規制しにくい製品

AIアルゴリズムの学習能力：既存の医療機器は許可を受けると構造と性能が固定される。しかし、AI・IoT機器は根本的に異なる特性を持っている。すなわち、AIアルゴリズムは、学習データが増えるほど性能が更新され、時には予測方式自体が変化することがある。

頻繁なアップデート：上記の学習により、ソフトウェアのパッチ、データセットの置き換え、クラウドのアップデートが行われ、それに伴いAI医療機器も頻繁に変更されます。 There is little change in approval requirements for existing medical devices after approval, and the existing Medical Device Act is enacted to suit these characteristics.ただし、AI医療機器は頻繁に更新されるため、既存の承認制度では規制が難しい可能性があります。

IoT接続性の両面性：継続的なネットワーク接続により、リモートモニタリングとクラウド連携が可能であり、それに伴う利便性は相当だが、それに対する反応によりセキュリティリスクも増加する。

既存の医療法 - 医療機器技術システムでは規制が難しい領域の存在：既存の医療機器は、医師が最終診断の主体になるため、医師が最終的な責任を負う。しかし、学習データに基づいて自分で判断するAIソフトウェアの場合、医療機器が診断まで行うことができ、最終的な法的責任を誰が負うかが不明になる可能性がある。

これらの特徴は、AI・IoT医療機器の規制を難しくする要素であり、これに応じて様々な法的、倫理的問題が伴う。

3.倫理的課題 - 患者の権利と責任の問題

行く。意思決定プロセスの透明性の欠如

AIの意思決定過程は「ブラックボックス」に近い。実際、まだ研究を重ねているが、ChatGPTの思考過程を人間が説明しにくいという。つまり、AIの考え方を私たちが完全に理解しにくいという意味だ。

患者と医療スタッフがAIから診断を受けるが、その結果がどのように導出されたかは分かりにくい問題がある。これにより、患者の自己決定権が侵害されたり、法的責任素材が不明瞭になる問題が生じることがある。

私。責任素材不明確性

AI医療機器を用いた診断行為には次のような主体が関連しているが、これらの間の責任分配は依然不明である。

• 医療スタッフ：最終診断と治療決定を下した医師
• 製造：アルゴリズムを設計した医療機器会社
• 病院：機器を導入して患者に使用した機関

だ。個人情報とセキュリティリスク

IoTデバイスを介したリアルタイムデータ転送過程でハッキングの危険は必然的に続く。患者の心電図、血糖記録などの敏感な健康情報が外部に漏洩した場合、患者の人格権が深刻に侵害される可能性があります。

それだけでなく、患者の健康情報を活用してAI診断ソフトウェアを学習させるのに、寄稿者が把握するには、まだ個人情報の活用に対する同意を正しく受けずに「AI学習」をさせる事例が多いことがわかっている。まだ問題化されていないが、これに関しても個人情報侵害問題が台頭することができるだろう。

4. 規制上の課題
韓国の場合、「医療機器技術」と最近制定された「デジタル医療製品法」を通じてソフトウェア医療機器（SaMD）を規律しており、規制サンドボックス制度を活用して新しい技術の臨時的許容と検証を並行している。ただし、AIアルゴリズムの「持続的学習」に対する具体的な規定や前述の責任素材、個人情報保護問題などに対する具体的な規定は不備な実情である。

米国(FDA)はAI/ML SaMD関連ガイドラインなどをホームページに公開している。欧州連合（EU）規制の主な特徴は、二重規制アプローチです。欧州医薬品庁（European Medicines Agency、EMA）が医療機器規制（Medical Device Regulation、MDR）および人工知能法（Artificial Intelligence Act、AIA）に従ってAIベースの医療機器を管理する。

MDRはAIベースの医療機器を含む医療機器の設計、開発、臨床評価および市販後の監視の要件を規定し、AIAはリスクベースの分類、透明性、人間の監督要件などを規定する。

医療AI企業は、米国、欧州市場に参入する際に厳格な基準を満たさなければ市場に参入することが可能なため、これに備えなければならない。また、国内規制はまだ確立中であるが、厳しくなる規制に対して事前的対比も必要と思われる。

5. 結論

AI・IoTベースの医療機器はすでに患者の生活を革新的に変えており、この流れはさらに加速することが明らかである。しかし、技術発展の速度と法・倫理体系の発展速度との間に依然として大きな隙間が存在することが問題だ。

特に、先に見た倫理的、法的問題に対してどのように対処すべきか、誰も明快に説明できない実情だ。

患者の安全と権利の保証が保証されている場合にのみ、医療機器の革新は持続可能であるため、これを保証する倫理的、規制上の議論が緊急の実情である。したがって、規制機関、産業界、医療陣、法曹界が共に参加する討論の場が必要であることが寄稿者の考えだ。

一方、大きな流れ上AI・IoTベースの医療機器に関連した政府の規制は強化されることが明らかだ。一部の規制の場合、技術的にかなりの難易度を要求することもあり、関連業界ではこれに先制的に備える必要もあると考えられる。

寄稿者：二日型弁護士（ilhyunglee@naver.com）
弁護士/薬剤師/弁理士/米国会計士(Maine)試験に合格
（前）セルトリオン国内法務チーム弁護士
（現）法務法人（有限）大輪医療製薬グループ／製薬バイオヘルスケアセンター長

[記事の表示]
[寄稿] AI・IoTベースの医療法的・倫理的側面