[การมีส่วนร่วม] ความท้าทายในด้านกฎหมายและจริยธรรมของอุปกรณ์การแพทย์ที่ใช้ AI และ IoT

ผู้ร่วมให้ข้อมูลและหนังสือพิมพ์เภสัชกรรมได้วางแผนซีรีส์ที่เกี่ยวข้องกับอุปกรณ์ทางการแพทย์ ในการสนับสนุนนี้ เราจะตรวจสอบความท้าทายด้านจริยธรรมและกฎระเบียบของอุปกรณ์การแพทย์ที่ใช้ AI และ IoT

1. กระบวนทัศน์ใหม่ของอุปกรณ์การแพทย์

ในขณะที่ความคลั่งไคล้ AI ที่นำเสนอโดย ChatGPT กำลังแพร่กระจายไปทั่วสังคม เทคโนโลยีปัญญาประดิษฐ์ (AI) และ Internet of Things (IoT) ก็เริ่มถูกนำมาใช้อย่างรวดเร็วในสถานพยาบาล ไม่ใช่เรื่องแปลกอีกต่อไปที่จะเห็นซอฟต์แวร์ AI ที่เรียนรู้ข้อมูลภาพเพื่อตรวจจับโรคสำคัญๆ เช่น มะเร็งและโรคหลอดเลือดหัวใจตั้งแต่เนิ่นๆ และตรวจสอบ ECG น้ำตาลในเลือด และรูปแบบการนอนหลับของผู้ป่วยตลอด 24 ชั่วโมงผ่านอุปกรณ์สวมใส่ IoT

อย่างไรก็ตาม การเปลี่ยนแปลงเชิงนวัตกรรมเหล่านี้มาพร้อมกับความท้าทายทางกฎหมายและจริยธรรม “ใครจะเป็นผู้รับผิดชอบหากการวินิจฉัยโดย AI ผิดพลาด”, “ข้อมูลผู้ป่วยที่รวบรวมผ่านอุปกรณ์ IoT ปลอดภัยแค่ไหน” คำถามเช่นนี้ได้กลายเป็นความจริงที่หลีกเลี่ยงไม่ได้แล้ว

2. คุณลักษณะของอุปกรณ์ทางการแพทย์ AI/IoT – ผลิตภัณฑ์ที่ควบคุมได้ยากภายใต้ระบบการกำกับดูแลที่มีอยู่

ความสามารถในการเรียนรู้ของอัลกอริทึม AI:เมื่ออุปกรณ์ทางการแพทย์ที่มีอยู่ได้รับการอนุมัติ โครงสร้างและประสิทธิภาพของเครื่องมือก็จะได้รับการแก้ไข อย่างไรก็ตาม อุปกรณ์ AI/IoT มีลักษณะพื้นฐานที่แตกต่างกัน กล่าวอีกนัยหนึ่ง ประสิทธิภาพของอัลกอริธึม AI จะได้รับการอัปเดตเมื่อข้อมูลการเรียนรู้เพิ่มขึ้น และบางครั้งวิธีการทำนายก็สามารถเปลี่ยนแปลงได้

การอัปเดตบ่อยครั้ง:จากการเรียนรู้ข้างต้น แพตช์ซอฟต์แวร์ การเปลี่ยนชุดข้อมูล และการอัปเดตคลาวด์จึงเกิดขึ้น และอุปกรณ์ทางการแพทย์ AI ก็เปลี่ยนแปลงบ่อยครั้งตามนั้น มีการเปลี่ยนแปลงเล็กน้อยในข้อกำหนดการอนุมัติสำหรับอุปกรณ์การแพทย์ที่มีอยู่หลังจากการอนุมัติ และพระราชบัญญัติอุปกรณ์การแพทย์ที่มีอยู่ก็ถูกตราขึ้นเพื่อให้เหมาะสมกับคุณลักษณะเหล่านี้ อย่างไรก็ตาม อุปกรณ์ทางการแพทย์ AI อาจควบคุมได้ยากภายใต้ระบบการอนุมัติที่มีอยู่ เนื่องจากมีการอัปเดตบ่อยครั้ง

การเชื่อมต่อ IoT ทั้งสองด้าน: การตรวจสอบระยะไกลและการเชื่อมโยงระบบคลาวด์สามารถทำได้ผ่านการเชื่อมต่อเครือข่ายอย่างต่อเนื่อง และความสะดวกสบายที่ได้นั้นมีความสำคัญมาก แต่ความเสี่ยงด้านความปลอดภัยก็เพิ่มขึ้นตามปฏิกิริยาเช่นกัน

การมีอยู่ของพื้นที่ที่ยากต่อการควบคุมภายใต้กฎหมายการแพทย์-ระบบกฎหมายอุปกรณ์การแพทย์ที่มีอยู่: สำหรับอุปกรณ์การแพทย์ที่มีอยู่ แพทย์จะต้องได้รับการวินิจฉัยขั้นสุดท้าย ดังนั้นแพทย์จึงมีความรับผิดชอบขั้นสุดท้าย อย่างไรก็ตาม ในกรณีของซอฟต์แวร์ AI ที่ทำการตัดสินใจของตนเองตามข้อมูลการเรียนรู้ อุปกรณ์ทางการแพทย์ก็สามารถทำการวินิจฉัยได้ ทำให้ไม่ชัดเจนว่าใครเป็นผู้รับผิดชอบทางกฎหมายขั้นสูงสุด

ลักษณะเหล่านี้เป็นปัจจัยที่ทำให้ควบคุมอุปกรณ์ทางการแพทย์ AI/IoT ได้ยาก ส่งผลให้เกิดปัญหาทางกฎหมายและจริยธรรมต่างๆ

3. ความท้าทายด้านจริยธรรม – ประเด็นเรื่องสิทธิและความรับผิดชอบของผู้ป่วย

ก. ขาดความโปร่งใสในกระบวนการตัดสินใจ

กระบวนการตัดสินใจของ AI นั้นใกล้เคียงกับ 'กล่องดำ' แม้ว่าการวิจัยจะยังคงดำเนินอยู่ แต่ก็มีการกล่าวกันว่าเป็นเรื่องยากสำหรับมนุษย์ที่จะอธิบายกระบวนการคิดของ ChatGPT ซึ่งหมายความว่าเป็นเรื่องยากสำหรับเราที่จะเข้าใจอย่างถ่องแท้ว่า AI คิดอย่างไร

ผู้ป่วยและเจ้าหน้าที่ทางการแพทย์ได้รับการวินิจฉัยจาก AI แต่ยากที่จะทราบว่าผลลัพธ์เป็นอย่างไร ซึ่งอาจส่งผลให้สิทธิ์ของผู้ป่วยในการตัดสินใจด้วยตนเองถูกละเมิดหรือตำแหน่งของความรับผิดชอบทางกฎหมายไม่ชัดเจน

ข. ความรับผิดชอบที่ไม่ชัดเจน

หน่วยงานต่อไปนี้มีส่วนร่วมในกิจกรรมการวินิจฉัยโดยใช้อุปกรณ์ทางการแพทย์ AI แต่การกระจายความรับผิดชอบระหว่างกันยังไม่ชัดเจน

• เจ้าหน้าที่ทางการแพทย์: แพทย์ที่เป็นผู้วินิจฉัยและตัดสินใจการรักษาขั้นสุดท้าย
• ผู้ผลิต: บริษัทอุปกรณ์การแพทย์ที่ออกแบบอัลกอริทึม
• โรงพยาบาล: สถาบันที่แนะนำอุปกรณ์และใช้กับผู้ป่วย

ค. ความเสี่ยงด้านความเป็นส่วนตัวและความปลอดภัย

การส่งข้อมูลแบบเรียลไทม์ผ่านอุปกรณ์ IoTความเสี่ยงของการแฮ็กย่อมตามมาตามกระบวนการอย่างหลีกเลี่ยงไม่ได้ หากข้อมูลสุขภาพที่ละเอียดอ่อน เช่น คลื่นไฟฟ้าหัวใจของผู้ป่วยหรือบันทึกน้ำตาลในเลือด รั่วไหล สิทธิทางศีลธรรมของผู้ป่วยอาจถูกละเมิดอย่างร้ายแรง

นอกจากนี้ ข้อมูลด้านสุขภาพของผู้ป่วยยังใช้ในการเรียนรู้ซอฟต์แวร์วินิจฉัย AI แต่ผู้ร่วมให้ข้อมูลเข้าใจว่ายังมี 'การเรียนรู้ AI' อีกหลายกรณีโดยไม่ได้รับความยินยอมอย่างเหมาะสมสำหรับการใช้ข้อมูลส่วนบุคคล แม้ว่าจะยังไม่กลายเป็นประเด็นปัญหาการละเมิดข้อมูลส่วนบุคคลก็อาจเกิดขึ้นได้ในเรื่องนี้

4. ความท้าทายด้านกฎระเบียบ
ในกรณีของเกาหลี ซอฟต์แวร์อุปกรณ์การแพทย์ (SaMD) ได้รับการควบคุมผ่านพระราชบัญญัติอุปกรณ์การแพทย์และพระราชบัญญัติผลิตภัณฑ์ทางการแพทย์ดิจิทัลที่ประกาศใช้เมื่อเร็วๆ นี้ และระบบแซนด์บ็อกซ์ตามข้อบังคับใช้เพื่ออนุญาตและตรวจสอบเทคโนโลยีใหม่พร้อมกันเป็นการชั่วคราว อย่างไรก็ตาม ยังขาดกฎระเบียบเฉพาะเกี่ยวกับ 'การเรียนรู้อย่างต่อเนื่อง' ของอัลกอริธึม AI ความรับผิด และปัญหาการปกป้องข้อมูลส่วนบุคคลที่กล่าวถึงข้างต้น

สหรัฐอเมริกา (FDA) เปิดเผยแนวทางที่เกี่ยวข้องกับ AI/ML SaMD บนเว็บไซต์ คุณลักษณะหลักของกฎระเบียบของสหภาพยุโรป (EU) คือแนวทางการกำกับดูแลแบบคู่ สำนักงานยาแห่งยุโรป (EMA) จัดการอุปกรณ์ทางการแพทย์ที่ใช้ AI ภายใต้กฎระเบียบด้านอุปกรณ์การแพทย์ (MDR) และพระราชบัญญัติปัญญาประดิษฐ์ (AIA)

MDR ระบุข้อกำหนดสำหรับการออกแบบ การพัฒนา การประเมินทางคลินิก และการเฝ้าระวังหลังการวางตลาดของอุปกรณ์ทางการแพทย์ รวมถึงอุปกรณ์ทางการแพทย์ที่ใช้ AI ในขณะที่ AIA ระบุข้อกำหนดการจำแนกประเภทตามความเสี่ยง ความโปร่งใส และการกำกับดูแลของมนุษย์

บริษัท AI ทางการแพทย์จะต้องปฏิบัติตามมาตรฐานที่เข้มงวดเมื่อเข้าสู่ตลาดสหรัฐอเมริกาและยุโรปเพื่อเข้าสู่ตลาด ดังนั้นพวกเขาจึงต้องเตรียมพร้อมสำหรับสิ่งนี้ นอกจากนี้ กฎระเบียบภายในประเทศยังคงมีการกำหนดไว้ ดังนั้นจึงดูเหมือนว่าจำเป็นต้องเตรียมล่วงหน้าสำหรับกฎระเบียบที่จะเข้มงวดยิ่งขึ้น

5. บทสรุป

อุปกรณ์ทางการแพทย์ที่ใช้ AI/IoT กำลังปฏิวัติชีวิตของผู้ป่วยไปแล้ว และแนวโน้มนี้คาดว่าจะเร่งตัวขึ้นอีกอย่างแน่นอน อย่างไรก็ตาม ปัญหาคือยังมีช่องว่างขนาดใหญ่ระหว่างความเร็วของการพัฒนาเทคโนโลยีและความเร็วของการพัฒนาระบบกฎหมายและจริยธรรม

โดยเฉพาะอย่างยิ่งไม่มีใครสามารถอธิบายวิธีจัดการกับประเด็นด้านจริยธรรมและกฎหมายที่กล่าวถึงข้างต้นได้อย่างชัดเจน

นวัตกรรมอุปกรณ์การแพทย์จะยั่งยืนได้ก็ต่อเมื่อมีการรับประกันความปลอดภัยและสิทธิ์ของผู้ป่วยเท่านั้น ดังนั้นการอภิปรายด้านจริยธรรมและกฎระเบียบเพื่อให้แน่ใจว่าสิ่งนี้มีความจำเป็นเร่งด่วน ดังนั้น ผู้ร่วมให้ข้อมูลจึงเชื่อว่าจำเป็นต้องมีเวทีสำหรับการอภิปรายซึ่งหน่วยงานกำกับดูแล อุตสาหกรรม ผู้เชี่ยวชาญทางการแพทย์ และชุมชนด้านกฎหมายมีส่วนร่วมด้วยกัน

ในขณะเดียวกัน เป็นที่ชัดเจนว่ากฎระเบียบของรัฐบาลที่เกี่ยวข้องกับอุปกรณ์การแพทย์ที่ใช้ AI/IoT จะได้รับการเสริมสร้างความเข้มแข็งตามแนวโน้มทั่วไป กฎระเบียบบางประการอาจต้องใช้ความยุ่งยากทางเทคโนโลยีอย่างมาก และเชื่อว่าอุตสาหกรรมที่เกี่ยวข้องจำเป็นต้องเตรียมการเชิงรุกสำหรับเรื่องนี้

ผู้เขียน: ทนายความ อิลฮยอง ลี (ilhyunglee@naver.com)
ผ่านการสอบทนายความ/เภสัชกร/ทนายความด้านสิทธิบัตร/นักบัญชีสาธารณะชาวอเมริกัน (เมน)
(อดีต) ทนายความของทีมกฎหมายในประเทศ Celltrion
(ปัจจุบัน) หัวหน้ากลุ่ม Daeryun Medical Pharmaceutical Group/Pharmaceutical Bio Healthcare Center, สำนักงานกฎหมาย (จำกัด)

[ดูบทความเต็ม]
[การมีส่วนร่วม] ความท้าทายทางกฎหมายและจริยธรรมของ AI และอุปกรณ์ทางการแพทย์ที่ใช้ IoT