[مساهمة] التحديات في الجوانب القانونية والأخلاقية للأجهزة الطبية القائمة على الذكاء الاصطناعي وإنترنت الأشياء
قام الكاتب وصحيفة "ياك أوب" (صحيفة الصيدلة) بإعداد سلسلة تتعلق بـ「الأجهزة الطبية. وفي هذه المساهمة، نرغب في النظر في التحديات الأخلاقية والتنظيمية للأجهزة الطبية القائمة على الذكاء الاصطناعي (AI) وإنترنت الأشياء (IoT). 1. نموذج جديد للأجهزة الطبية في ظل اجتياح موجة الذكاء الاصطناعي التي يمثلها ChatGPT للمجتمع بأسره، يجري أيضًا في الميدان الطبي تبنّي تقنيات الذكاء الاصطناعي (AI) وإنترنت الأشياء (IoT) بسرعة. ولم يعد مشهد اكتشاف برمجيات الذكاء الاصطناعي التي تعلّمت من بيانات التصوير للأمراض الرئيسية مثل السرطان وأمراض القلب والأوعية الدموية في وقت مبكر، ومراقبة تخطيط القلب الكهربائي للمريض ونسبة السكر في الدم وأنماط النوم على مدار 24 ساعة عبر أجهزة إنترنت الأشياء القابلة للارتداء، أمرًا غريبًا. غير أن هذه التغييرات المبتكرة تصاحبها تحديات قانونية وأخلاقية. فقد أصبحت أسئلة مثل "إذا كان التشخيص الذي أصدره الذكاء الاصطناعي خاطئًا، فمن الذي ينبغي أن يتحمل المسؤولية؟"، و"إلى أي مدى تكون بيانات المرضى المجمَّعة عبر أجهزة إنترنت الأشياء آمنة؟" واقعًا لا يمكن تجنبه الآن. 2. خصائص الأجهزة الطبية القائمة على الذكاء الاصطناعي وإنترنت الأشياء – منتجات يصعب تنظيمها بالأنظمة التنظيمية القائمة قدرة خوارزميات الذكاء الاصطناعي على التعلّم: الأجهزة الطبية القائمة، بمجرد الحصول على الترخيص، يتم تثبيت هيكلها وأدائها. لكن أجهزة الذكاء الاصطناعي وإنترنت الأشياء تتمتع بخصائص مختلفة جوهريًا. أي أن خوارزمية الذكاء الاصطناعي يتحدّث أداؤها كلما ازدادت بيانات التعلّم، وقد تتغير في بعض الأحيان طريقة التنبؤ ذاتها. التحديثات المتكررة: من خلال هذا التعلّم المذكور أعلاه، تجري عمليات مثل تصحيح البرمجيات، واستبدال مجموعات البيانات، والتحديثات السحابية، وبناءً على ذلك تتغير الأجهزة الطبية القائمة على الذكاء الاصطناعي بشكل متكرر. أما الأجهزة الطبية القائمة فلا يكاد يطرأ تغيير على بنود الترخيص بعد الحصول عليه، وقد سُنّ قانون الأجهزة الطبية القائم بما يتناسب مع هذه الخصائص. غير أن الأجهزة الطبية القائمة على الذكاء الاصطناعي قد يصعب تنظيمها بنظام الترخيص القائم بسبب التحديثات المتكررة. ازدواجية اتصال إنترنت الأشياء: يتيح الاتصال الشبكي المستمر المراقبة عن بُعد والربط السحابي، وما يترتب على ذلك من راحة كبيرة، لكن كرد فعل مقابل لذلك تزداد أيضًا المخاطر الأمنية. وجود مجالات يصعب تنظيمها بنظام قانون الطب وقانون الأجهزة الطبية القائم: في الأجهزة الطبية القائمة، يكون الطبيب هو الجهة المسؤولة عن التشخيص النهائي، ومن ثمّ يتحمل الطبيب المسؤولية النهائية. لكن في حالة برمجيات الذكاء الاصطناعي التي تحكم بنفسها استنادًا إلى بيانات التعلّم، فإن الجهاز الطبي يمكن أن يقوم بالتشخيص أيضًا، مما قد يجعل من غير الواضح من الذي يتحمل المسؤولية القانونية النهائية. هذه الخصائص هي عوامل تجعل تنظيم الأجهزة الطبية القائمة على الذكاء الاصطناعي وإنترنت الأشياء صعبًا، وتبعًا لذلك تصاحبها مشكلات قانونية وأخلاقية متعددة. 3. التحديات الأخلاقية – مسألة حقوق المريض والمسؤولية أ. نقص الشفافية في عملية اتخاذ القرار عملية اتخاذ القرار لدى الذكاء الاصطناعي أقرب إلى "الصندوق الأسود". وفي الواقع، ورغم تكرار البحوث حتى الآن، يُقال إنه يصعب على البشر تفسير عملية التفكير لدى ChatGPT. أي أن المعنى هو أنه يصعب علينا أن نفهم بشكل كامل طريقة تفكير الذكاء الاصطناعي. فالمريض والكادر الطبي يتلقون التشخيص من الذكاء الاصطناعي، لكن تكمن مشكلة في صعوبة معرفة كيفية التوصل إلى تلك النتيجة. وقد يؤدي ذلك إلى انتهاك حق المريض في تقرير مصيره بنفسه، أو إلى نشوء مشكلة عدم وضوح جهة المسؤولية القانونية. ب. عدم وضوح جهة المسؤولية تتعلق بفعل التشخيص باستخدام الأجهزة الطبية القائمة على الذكاء الاصطناعي الجهاتُ التالية، إلا أن توزيع المسؤولية فيما بينها لا يزال غير واضح. • الكادر الطبي: الطبيب الذي اتخذ قرار التشخيص والعلاج النهائي • الشركة المصنّعة: شركة الأجهزة الطبية التي صممت الخوارزمية • المستشفى: المؤسسة التي تبنّت الجهاز واستخدمته على المريض ج. مخاطر المعلومات الشخصية والأمن خطر الاختراق يأتي حتمًا في أثناء عملية النقل الفوري للبيانات عبر أجهزة إنترنت الأشياء. وفي حال تسرّب معلومات صحية حساسة مثل تخطيط القلب الكهربائي للمريض وسجلات سكر الدم إلى الخارج، فقد يُنتهك حق المريض في شخصيته انتهاكًا جسيمًا. ليس ذلك فحسب، بل يُستخدم المعلومات الصحية للمرضى في تدريب برمجيات التشخيص بالذكاء الاصطناعي، وبحسب ما أدركه الكاتب فإن هناك العديد من الحالات التي يجري فيها حتى الآن "تدريب الذكاء الاصطناعي" دون الحصول على الموافقة بشكل سليم على استخدام المعلومات الشخصية. ورغم أن الأمر لم يُثَر بعد كقضية، إلا أنه يمكن أن تبرز فيما يتعلق بهذا أيضًا مشكلة انتهاك المعلومات الشخصية. 4. التحديات التنظيمية في حالة كوريا، يجري تنظيم الأجهزة الطبية البرمجية (SaMD) من خلال 「قانون الأجهزة الطبية」 و「قانون المنتجات الطبية الرقمية」 الذي سُنّ مؤخرًا، كما يجري بالتوازي السماح المؤقت بالتقنيات الجديدة والتحقق منها باستخدام نظام البيئة التنظيمية التجريبية (الساندبوكس التنظيمي). إلا أن الأنظمة المحددة بشأن "التعلّم المستمر" لخوارزميات الذكاء الاصطناعي، أو الأنظمة المحددة بشأن جهة المسؤولية ومسألة حماية المعلومات الشخصية المذكورة آنفًا، لا تزال قاصرة. أما الولايات المتحدة (FDA) فتنشر على موقعها الإلكتروني إرشادات ونحوها تتعلق بالأجهزة الطبية البرمجية القائمة على الذكاء الاصطناعي/التعلّم الآلي (AI/ML SaMD). والسمة الرئيسية لتنظيم الاتحاد الأوروبي (EU) هي نهج تنظيمي مزدوج. فالوكالة الأوروبية للأدوية (European Medicines Agency, EMA) تدير الأجهزة الطبية القائمة على الذكاء الاصطناعي وفقًا للائحة الأجهزة الطبية (Medical Device Regulation, MDR) وقانون الذكاء الاصطناعي (Artificial Intelligence Act, AIA). تنظّم لائحة MDR المتطلبات المتعلقة بتصميم الأجهزة الطبية، بما فيها الأجهزة الطبية القائمة على الذكاء الاصطناعي، وتطويرها، والتقييم السريري لها، والمراقبة بعد طرحها في السوق، بينما ينظّم قانون AIA متطلبات التصنيف القائم على المخاطر، والشفافية، والإشراف البشري ونحوها. ولأن شركات الذكاء الاصطناعي الطبي لا يمكنها دخول السوق عند ولوج سوقي الولايات المتحدة وأوروبا إلا إذا استوفت المعايير الصارمة، فإن الاستعداد لذلك ضروري. كما أنه نظرًا لأن التنظيم المحلي لا يزال قيد الترسيخ، يبدو أن من الضروري أيضًا الاستعداد المسبق للتنظيم الذي سيصبح أكثر صرامة. 5. الخاتمة الأجهزة الطبية القائمة على الذكاء الاصطناعي وإنترنت الأشياء تُغيّر بالفعل حياة المرضى تغييرًا ثوريًا، ومن المؤكد أن هذا التيار سيتسارع أكثر. غير أن المشكلة تكمن في أنه لا تزال هناك فجوة كبيرة بين سرعة التطور التقني وسرعة تطور المنظومة القانونية والأخلاقية. وعلى وجه الخصوص، فإن الواقع هو أنه لا أحد يستطيع أن يشرح بوضوح كيفية التعامل مع المشكلات الأخلاقية والقانونية التي تم النظر فيها سابقًا. ولأن ابتكار الأجهزة الطبية لا يكون مستدامًا إلا حين تُضمن سلامة المريض وحقوقه، فإن الواقع هو أن النقاش الأخلاقي والتنظيمي الذي يضمن ذلك أمر عاجل. ولذلك، يرى الكاتب أن ثمة حاجة إلى منبر للنقاش تشارك فيه معًا الجهات التنظيمية، والقطاع الصناعي، والكادر الطبي، والأوساط القانونية. ومن ناحية أخرى، فمن المؤكد بحسب التيار العام أن تنظيم الحكومة المتعلق بالأجهزة الطبية القائمة على الذكاء الاصطناعي وإنترنت الأشياء سيُعزَّز. وبما أن بعض الأنظمة قد يتطلب مستوى صعوبة تقنيًا كبيرًا، يُرى أن من الضروري للقطاعات ذات الصلة أن تستعد لذلك على نحو استباقي. الكاتب: المحامي لي إيل-هيونغ (ilhyunglee@naver.com) محامٍ/صيدلي/وكيل براءات اختراع/ناجح في امتحان المحاسب القانوني الأمريكي (ولاية مين) (سابقًا) محامٍ في فريق الشؤون القانونية المحلية لشركة سيلتريون (حاليًا) رئيس مجموعة الطب والصيدلة/مركز الصيدلة والتقنية الحيوية والرعاية الصحية في شركة المحاماة (المحدودة) داريون [عرض المقال كاملا]
[مساهمة] التحديات في الجوانب القانونية والأخلاقية للأجهزة الطبية القائمة على الذكاء الاصطناعي وإنترنت الأشياء