[مساهمة] التحديات في الجوانب القانونية والأخلاقية للأجهزة الطبية القائمة على الذكاء الاصطناعي وإنترنت الأشياء

خططت صحيفة المساهمة والصيدلانية لسلسلة تتعلق بالأجهزة الطبية. في هذه المساهمة، سندرس التحديات الأخلاقية والتنظيمية للأجهزة الطبية القائمة على الذكاء الاصطناعي وإنترنت الأشياء.

1. نموذج جديد للأجهزة الطبية

في حين أن جنون الذكاء الاصطناعي الذي يمثله ChatGPT ينتشر في جميع أنحاء المجتمع، يتم أيضًا إدخال تقنيات الذكاء الاصطناعي (AI) وإنترنت الأشياء (IoT) بسرعة في البيئات الطبية. ولم يعد من غير المألوف رؤية برامج الذكاء الاصطناعي التي تتعلم بيانات الصور وتكتشف الأمراض الرئيسية مثل السرطان وأمراض القلب والأوعية الدموية في وقت مبكر، وتراقب مخطط كهربية القلب للمرضى، وسكر الدم، وأنماط النوم على مدار 24 ساعة يوميًا من خلال أجهزة إنترنت الأشياء القابلة للارتداء.

ومع ذلك، فإن هذه التغييرات المبتكرة تصاحبها تحديات قانونية وأخلاقية. "من المسؤول إذا كان التشخيص الذي أجراه الذكاء الاصطناعي خاطئًا؟"، "ما مدى أمان جمع بيانات المرضى من خلال أجهزة إنترنت الأشياء؟" لقد أصبحت مثل هذه الأسئلة الآن حقيقة لا مفر منها.

2. خصائص الأجهزة الطبية العاملة بالذكاء الاصطناعي وإنترنت الأشياء – المنتجات التي يصعب تنظيمها بموجب النظام التنظيمي الحالي

القدرة على التعلم لخوارزمية الذكاء الاصطناعي:بمجرد حصول الجهاز الطبي الموجود على الموافقة، يتم إصلاح هيكله وأدائه. ومع ذلك، فإن أجهزة الذكاء الاصطناعي/إنترنت الأشياء لها خصائص مختلفة بشكل أساسي. بمعنى آخر، يتم تحديث أداء خوارزميات الذكاء الاصطناعي مع زيادة بيانات التعلم، وفي بعض الأحيان يمكن أن تتغير طريقة التنبؤ نفسها.

التحديثات المتكررة:من خلال التعلم أعلاه، يتم إجراء تصحيحات البرامج واستبدال مجموعة البيانات والتحديثات السحابية، وتتغير أجهزة الذكاء الاصطناعي الطبية بشكل متكرر وفقًا لذلك. لا يوجد تغيير يذكر في متطلبات الموافقة على الأجهزة الطبية الموجودة بعد الموافقة عليها، وتم سن قانون الأجهزة الطبية الحالي ليناسب هذه الخصائص. ومع ذلك، قد يكون من الصعب تنظيم الأجهزة الطبية المعتمدة على الذكاء الاصطناعي في ظل أنظمة الموافقة الحالية بسبب التحديثات المتكررة.

وجهان اتصال إنترنت الأشياء: المراقبة عن بعد والربط السحابي ممكنة من خلال الاتصال المستمر بالشبكة، وتكون الراحة الناتجة كبيرة، ولكن المخاطر الأمنية تزيد أيضًا كرد فعل.

وجود مجالات يصعب تنظيمها بموجب القانون الطبي الحالي – نظام قانون الأجهزة الطبية: بالنسبة للأجهزة الطبية الموجودة، يكون الطبيب هو موضوع التشخيص النهائي، وبالتالي يتحمل الطبيب المسؤولية النهائية. ومع ذلك، في حالة برامج الذكاء الاصطناعي التي تتخذ قراراتها الخاصة بناءً على بيانات التعلم، يمكن للأجهزة الطبية إجراء التشخيص، مما يجعل من غير الواضح من يتحمل المسؤولية القانونية النهائية.

هذه الخصائص هي العوامل التي تجعل من الصعب تنظيم الأجهزة الطبية القائمة على الذكاء الاصطناعي وإنترنت الأشياء، مما يؤدي إلى العديد من القضايا القانونية والأخلاقية.

3. التحديات الأخلاقية – قضايا حقوق المريض ومسؤولياته

أ. انعدام الشفافية في عملية اتخاذ القرار

إن عملية صنع القرار في الذكاء الاصطناعي قريبة من "الصندوق الأسود". في الواقع، على الرغم من أن البحث لا يزال مستمرًا، يُقال إنه من الصعب على البشر تفسير عملية التفكير في ChatGPT. وهذا يعني أنه من الصعب علينا أن نفهم بشكل كامل كيف يفكر الذكاء الاصطناعي.

يتلقى المرضى والطاقم الطبي التشخيص من خلال الذكاء الاصطناعي، ولكن من الصعب معرفة كيف تم استخلاص النتائج. قد يؤدي ذلك إلى انتهاك حق المريض في تقرير المصير أو أن يصبح موقع المسؤولية القانونية غير واضح.

ب. مسؤولية غير واضحة

تشارك الكيانات التالية في الأنشطة التشخيصية باستخدام الأجهزة الطبية المعتمدة على الذكاء الاصطناعي، لكن توزيع المسؤولية فيما بينها لا يزال غير واضح.

• الطاقم الطبي: الطبيب الذي يتخذ القرار النهائي بالتشخيص والعلاج
• الشركة المصنعة: شركة الأجهزة الطبية التي صممت الخوارزمية
• المستشفى: المؤسسة التي أدخلت الجهاز واستخدمته على المرضى

ج. مخاطر الخصوصية والأمن

نقل البيانات في الوقت الحقيقي من خلال أجهزة إنترنت الأشياءخطر القرصنة يتبع حتما على طول العملية. إذا تم تسريب معلومات صحية حساسة، مثل مخطط كهربية القلب للمريض أو سجلات نسبة السكر في الدم، فقد يتم انتهاك الحقوق الأخلاقية للمريض بشكل خطير.

بالإضافة إلى ذلك، يتم استخدام المعلومات الصحية للمرضى لتعلم برامج تشخيص الذكاء الاصطناعي، لكن المساهم يدرك أنه لا تزال هناك العديد من حالات "تعلم الذكاء الاصطناعي" دون الحصول على الموافقة المناسبة لاستخدام المعلومات الشخصية. على الرغم من أن الأمر لم يصبح مشكلة بعد، إلا أن مسألة انتهاك المعلومات الشخصية قد تنشأ أيضًا في هذا الصدد.

4. التحديات التنظيمية
وفي حالة كوريا، يتم تنظيم الأجهزة الطبية البرمجية (SaMD) من خلال قانون الأجهزة الطبية وقانون المنتجات الطبية الرقمية الذي تم استنانه مؤخرًا، ويتم استخدام نظام الاختبار التنظيمي للسماح بالتقنيات الجديدة والتحقق منها بشكل مؤقت في نفس الوقت. ومع ذلك، لا توجد لوائح محددة بشأن "التعلم المستمر" لخوارزميات الذكاء الاصطناعي، والمسؤولية، وقضايا حماية المعلومات الشخصية المذكورة أعلاه.

تكشف الولايات المتحدة (FDA) عن الإرشادات المتعلقة بـ AI/ML SaMD على موقعها الإلكتروني. السمة الرئيسية لتنظيم الاتحاد الأوروبي (EU) هي النهج التنظيمي المزدوج. تدير وكالة الأدوية الأوروبية (EMA) الأجهزة الطبية القائمة على الذكاء الاصطناعي بموجب لائحة الأجهزة الطبية (MDR) وقانون الذكاء الاصطناعي (AIA).

تحدد MDR متطلبات التصميم والتطوير والتقييم السريري ومراقبة ما بعد التسويق للأجهزة الطبية، بما في ذلك الأجهزة الطبية القائمة على الذكاء الاصطناعي، بينما تحدد AIA التصنيف القائم على المخاطر والشفافية ومتطلبات الرقابة البشرية.

يجب على شركات الذكاء الاصطناعي الطبي تلبية معايير صارمة عند دخول الأسواق الأمريكية والأوروبية لدخول السوق، لذلك يتعين عليها الاستعداد لذلك. بالإضافة إلى ذلك، لا تزال اللوائح المحلية قيد الإعداد، لذا يبدو من الضروري الاستعداد مسبقًا للأنظمة التي ستصبح أكثر صرامة.

5. الاستنتاج

تُحدث الأجهزة الطبية القائمة على الذكاء الاصطناعي وإنترنت الأشياء ثورة بالفعل في حياة المرضى، ومن المؤكد أن هذا الاتجاه سيتسارع بشكل أكبر. لكن المشكلة تكمن في أنه لا تزال هناك فجوة كبيرة بين سرعة التطور التكنولوجي وسرعة تطور الأنظمة القانونية والأخلاقية.

وعلى وجه الخصوص، لا يستطيع أحد أن يشرح بوضوح كيفية التعامل مع القضايا الأخلاقية والقانونية التي نوقشت أعلاه.

لا يمكن استدامة ابتكار الأجهزة الطبية إلا عندما يتم ضمان سلامة المرضى وحقوقهم، لذلك هناك حاجة ماسة إلى مناقشات أخلاقية وتنظيمية لضمان ذلك. ولذلك، يعتقد المساهم أن هناك حاجة إلى منتدى للمناقشة تشارك فيه الهيئات التنظيمية والصناعة والمهنيون الطبيون والمجتمع القانوني معًا.

وفي الوقت نفسه، من الواضح أنه سيتم تعزيز اللوائح الحكومية المتعلقة بالأجهزة الطبية القائمة على الذكاء الاصطناعي وإنترنت الأشياء كاتجاه عام. قد تتطلب بعض الأنظمة صعوبة تكنولوجية كبيرة، ويُعتقد أن الصناعات ذات الصلة تحتاج إلى الاستعداد بشكل استباقي لذلك.

المساهم: المحامي إلهيونج لي (ilhyunglee@naver.com)
اجتياز امتحان المحامي/الصيدلي/محامي براءات الاختراع/المحاسب العام الأمريكي (مين).
(سابقًا) محامي في فريق Celltrion القانوني المحلي
(حالي) مكتب محاماة (محدودة) داريون مجموعة الأدوية الطبية / مدير مركز الرعاية الصحية الحيوية الصيدلانية

[عرض المقال كاملاً]
[مساهمة] التحديات القانونية والأخلاقية للأجهزة الطبية القائمة على الذكاء الاصطناعي وإنترنت الأشياء