[Kontribusi] Tantangan Aspek Hukum dan Etika Perangkat Medis Berbasis AI dan IoT

Kontributor bersama Yakup Sinmun merancang seri terkait 「alat kesehatan. Dalam kontribusi kali ini, hendak ditinjau tantangan etis dan regulatif alat kesehatan berbasis AI dan IoT.

1. Paradigma baru alat kesehatan

Di tengah demam AI yang diwakili ChatGPT melanda seluruh lapisan masyarakat, dunia medis pun dengan cepat mengadopsi teknologi kecerdasan buatan (AI) dan internet of things (IoT). Pemandangan perangkat lunak AI yang telah mempelajari data citra untuk mendeteksi dini penyakit utama seperti kanker dan penyakit kardiovaskular, serta pemantauan elektrokardiogram, gula darah, dan pola tidur pasien selama 24 jam melalui perangkat wearable IoT, kini bukan lagi hal asing.

Namun, perubahan inovatif ini turut menghadirkan tantangan hukum dan etis. Pertanyaan seperti “Jika diagnosis yang dibuat AI keliru, siapa yang harus bertanggung jawab?”, “Seberapa aman data pasien yang dikumpulkan melalui perangkat IoT?” kini menjadi kenyataan yang tak terhindarkan.

2. Karakteristik alat kesehatan AI·IoT – produk yang sulit diatur dengan kerangka regulasi yang ada

Kemampuan belajar algoritma AI: Alat kesehatan konvensional, begitu memperoleh izin, struktur dan performanya menjadi tetap. Namun, perangkat AI·IoT memiliki karakteristik yang secara fundamental berbeda. Artinya, algoritma AI performanya diperbarui seiring bertambahnya data pembelajaran, dan terkadang cara prediksinya sendiri dapat berubah.

Pembaruan yang sering: Melalui pembelajaran seperti di atas, dilakukan tambalan perangkat lunak, penggantian set data, pembaruan cloud, dan sebagainya, sehingga alat kesehatan AI berubah dari waktu ke waktu. Alat kesehatan konvensional nyaris tidak mengalami perubahan atas hal-hal yang telah diizinkan setelah memperoleh izin, dan undang-undang alat kesehatan yang ada disusun sesuai karakteristik tersebut. Namun, alat kesehatan AI karena pembaruan yang sering dapat menjadi sulit diatur dengan kerangka perizinan yang ada.

Dua sisi konektivitas IoT: Melalui koneksi jaringan yang berkelanjutan, pemantauan jarak jauh dan integrasi cloud menjadi mungkin dengan kemudahan yang cukup besar, tetapi sebagai reaksinya, risiko keamanan pun meningkat.

Adanya area yang sulit diatur dengan kerangka undang-undang kesehatan–undang-undang alat kesehatan yang ada: Pada alat kesehatan konvensional, dokter menjadi subjek diagnosis akhir sehingga dokter memikul tanggung jawab akhir. Namun, pada perangkat lunak AI yang menilai sendiri berdasarkan data pembelajaran, alat kesehatan dapat melakukan hingga diagnosis, sehingga siapa yang memikul tanggung jawab hukum akhir dapat menjadi tidak jelas.

Karakteristik-karakteristik ini merupakan faktor yang mempersulit regulasi alat kesehatan AI·IoT, dan karenanya menimbulkan berbagai persoalan hukum dan etis.

3. Tantangan etis – persoalan hak pasien dan tanggung jawab

a. Kurangnya transparansi proses pengambilan keputusan

Proses pengambilan keputusan AI mendekati ‘kotak hitam’. Meski penelitian masih terus dilakukan hingga kini, konon proses berpikir ChatGPT sulit dijelaskan oleh manusia. Artinya, kita sulit sepenuhnya memahami cara berpikir AI.

Pasien dan tenaga medis memperoleh diagnosis dari AI, tetapi ada persoalan bahwa sulit mengetahui bagaimana hasil itu diperoleh. Akibatnya, dapat timbul persoalan terlanggarnya hak menentukan diri pasien, atau menjadi tidak jelasnya letak tanggung jawab hukum.

b. Ketidakjelasan letak tanggung jawab

Perbuatan diagnosis menggunakan alat kesehatan AI melibatkan subjek-subjek berikut, tetapi pembagian tanggung jawab di antara mereka masih tetap tidak jelas.

• Tenaga medis: dokter yang membuat keputusan diagnosis dan pengobatan akhir
• Produsen: perusahaan alat kesehatan yang merancang algoritma
• Rumah sakit: institusi yang mengadopsi perangkat dan menggunakannya pada pasien

c. Risiko data pribadi dan keamanan

Dalam proses transmisi data secara real-time melalui perangkat IoT, risiko peretasan pasti mengikuti. Apabila informasi kesehatan sensitif seperti elektrokardiogram dan catatan gula darah pasien bocor keluar, hak kepribadian pasien dapat terlanggar secara serius.

Tak hanya itu, informasi kesehatan pasien dimanfaatkan untuk melatih perangkat lunak diagnosis AI, dan sepengetahuan kontributor, masih banyak kasus di mana ‘pembelajaran AI’ dilakukan tanpa memperoleh persetujuan yang layak atas pemanfaatan data pribadi. Meski belum menjadi isu, terkait hal ini pun persoalan pelanggaran data pribadi dapat mengemuka.

4. Tantangan regulatif
Dalam kasus Korea, perangkat lunak sebagai alat kesehatan (SaMD) diatur melalui 「Undang-Undang Alat Kesehatan」 dan 「Undang-Undang Produk Medis Digital」 yang baru-baru ini diundangkan, serta memanfaatkan sistem regulatory sandbox untuk menyelenggarakan pengizinan sementara dan verifikasi teknologi baru secara bersamaan. Hanya saja, ketentuan konkret mengenai ‘pembelajaran berkelanjutan’ algoritma AI, maupun ketentuan konkret mengenai letak tanggung jawab dan persoalan perlindungan data pribadi yang disebutkan sebelumnya, masih belum memadai.

Amerika Serikat (FDA) memublikasikan pedoman terkait AI/ML SaMD, dan lainnya, di situs webnya. Ciri utama regulasi Uni Eropa (EU) adalah pendekatan regulasi ganda. European Medicines Agency (EMA) mengelola alat kesehatan berbasis AI berdasarkan Medical Device Regulation (MDR) dan Artificial Intelligence Act (AIA).

MDR mengatur persyaratan terkait desain, pengembangan, evaluasi klinis, dan pengawasan pascapemasaran alat kesehatan termasuk alat kesehatan berbasis AI, sedangkan AIA mengatur klasifikasi berbasis risiko, transparansi, persyaratan pengawasan manusia, dan lainnya.

Perusahaan AI medis, saat memasuki pasar AS dan Eropa, hanya dapat masuk pasar apabila memenuhi standar yang ketat, sehingga diperlukan persiapan menghadapinya. Selain itu, karena regulasi dalam negeri masih dalam tahap penyusunan, tampaknya diperlukan pula persiapan dini menghadapi regulasi yang akan menjadi lebih ketat.

5. Kesimpulan

Alat kesehatan berbasis AI·IoT telah mengubah kehidupan pasien secara inovatif, dan arus ini jelas akan semakin dipercepat. Namun, persoalannya adalah masih adanya jurang besar antara kecepatan perkembangan teknologi dan kecepatan perkembangan kerangka hukum·etika.

Khususnya, mengenai bagaimana harus menyikapi persoalan-persoalan etis dan hukum yang telah ditinjau sebelumnya, kenyataannya tak seorang pun mampu menjelaskannya secara gamblang.

Inovasi alat kesehatan hanya berkelanjutan apabila keselamatan dan jaminan hak pasien terjamin, sehingga diskusi etis dan regulatif yang menjaminnya sangat mendesak. Karena itu, menurut pemikiran kontributor, diperlukan ruang diskusi yang melibatkan bersama lembaga regulator, industri, tenaga medis, dan kalangan hukum.

Sementara itu, dalam arus besar, regulasi pemerintah terkait alat kesehatan berbasis AI·IoT jelas akan diperkuat. Sebagian regulasi mungkin menuntut tingkat kesulitan teknis yang cukup tinggi, sehingga menurut pemikiran saya, kalangan industri terkait perlu bersiap secara proaktif menghadapinya.

Kontributor: Pengacara Lee Il-hyung (ilhyunglee@naver.com)
Pengacara/Apoteker/Konsultan Paten/Lulus ujian Akuntan Publik AS (Maine)
(Mantan) Pengacara Tim Hukum Domestik Celltrion
(Kini) Kepala Pusat Kelompok Medis Farmasi/Pusat Farmasi Bio Kesehatan Firma Hukum Daeryun (Perseroan Terbatas)

[Baca artikel selengkapnya]
[Kontribusi] Tantangan aspek hukum·etis alat kesehatan berbasis AI ·IoT