[Kontribusi] Titik balik strategis perusahaan kesehatan setelah berlakunya UU Dasar AI

Melampaui kepatuhan perizinan, menuju era pengelolaan 'risiko yudisial medis'
Lee Seo-hyeong, pengacara Firma Hukum Daeryun (Perseroan Terbatas)

Setelah Undang-Undang Dasar tentang Pengembangan Kecerdasan Buatan dan Pembentukan Landasan Kepercayaan dan sebagainya (selanjutnya UU Dasar AI) diberlakukan, industri farmasi-bio dan kesehatan digital tampak sebagian terlepas dari ketidakpastian regulasi. Sebab, dengan mempertimbangkan pemajuan industri kesehatan medis dan pendorongan inovasi, pemerintah menafsirkan secara fleksibel cakupan penerapan AI berdampak tinggi yang berkaitan langsung dengan nyawa dan kesehatan, serta menjalankan regulasi secara relatif terbatas terhadap solusi bantu diagnosis dan sebagainya yang mensyaratkan keterlibatan tenaga medis profesional seperti dokter atau apoteker.

Pendekatan kebijakan semacam ini merupakan langkah yang wajar untuk mempertahankan tenaga penggerak perkembangan teknologi kesehatan digital. Khususnya, melalui Undang-Undang Produk Medis Digital Korea Selatan yang telah resmi berlaku, jalur perizinan Kementerian Keamanan Pangan dan Obat yang disesuaikan untuk perangkat lunak sebagai alat kesehatan (SaMD) dan sebagainya beroperasi, sehingga sistem regulasi administratif di bidang kesehatan pun mantap tertata.

Namun, stabilnya lingkungan regulasi ini tidak serta-merta berarti terselesaikannya risiko hukum. Sebaliknya, tanggung jawab yudisial AI medis justru berkemungkinan besar mulai benar-benar diuji sejak sekarang.

◆ Celah hukum antara keterlibatan formal dan kendali substansial di lapangan klinis

Sebagian perusahaan kesehatan digital dapat berupaya melewati ambang regulasi AI berdampak tinggi dengan menempatkan prosedur persetujuan tenaga medis atau apoteker pada tahap akhir solusi AI mereka. Namun, apabila terjadi sengketa medis dan menjadi objek penilaian pengadilan, fokusnya bukan pada 'ada tidaknya keterlibatan tenaga medis', melainkan pada apakah keterlibatan itu menjalankan 'fungsi kendali klinis yang substansial' yang berkaitan langsung dengan nyawa pasien.

Sebagai contoh, misalkan AI diagnosis dini kanker salah mendiagnosis tumor ganas karena tidak cukup mempelajari data pasien perempuan pada rentang usia tertentu, atau algoritma rekomendasi dosis obat antikanker menimbulkan efek samping serius karena kurang memperhitungkan nilai fungsi hati. Dalam hal ini, pengadilan tidak sekadar memeriksa 'apakah tenaga medis menekan tombol persetujuan akhir'. Pengadilan akan menilai secara menyeluruh apakah AI tersebut menyediakan dasar klinis dan kemampuan menjelaskan pada tingkat yang dapat ditelaah secara wajar oleh tenaga medis, serta apakah ada sistem kendali di internal perusahaan yang memverifikasi silang bias dan kesalahan algoritma.

Apabila sistem dirancang agar prosedur persetujuan dilakukan secara mekanis tanpa verifikasi substansial dan tanpa mempertimbangkan karakteristik lapangan klinis yang sibuk, apa yang disebut keterlibatan manusia justru dapat dinilai sebaliknya sebagai indikasi cacat fatal pada sistem manajemen keamanan produk, bukan sebagai logika pembebasan tanggung jawab perusahaan kesehatan. Hal ini dapat meluas menjadi risiko tata kelola yang mempersoalkan apakah manajemen membangun dan mengawasi sistem pengendalian internal yang wajar. Apabila terjadi kerugian serius pada pasien, tidak dapat dikesampingkan kemungkinan hal itu berlanjut ke masalah gugatan perwakilan pemegang saham atau pelanggaran kewajiban pengawasan dewan direksi.

◆ Standar baru kemitraan big pharma global dan pasar B2B luar negeri

Pada 2026 kini, seiring penerapan penuh EU AI Act (undang-undang kecerdasan buatan), pasar kesehatan global sudah menuntut tata kelola AI medis tingkat tertinggi. Ketika perusahaan farmasi multinasional global (big pharma) atau institusi medis besar membahas ekspor teknologi bahan obat baru atau kontrak uji klinis bersama dengan perusahaan K-healthcare, mereka tidak sekadar menanyakan kepatuhan pada pedoman Kementerian Keamanan Pangan dan Obat Korea. Ada kecenderungan mereka meminta data konkret yang membuktikan keabsahan data medis pasien sensitif yang digunakan untuk pelatihan, transparansi algoritma prediksi, dan sistem kendali bioetika di seluruh perusahaan.

Keadaan bahwa penerapan regulasi domestik dapat dihindari tidak menjadi penjelasan yang cukup bagi mitra luar negeri yang teliti atau lembaga regulator (FDA, EMA, dan lainnya). Sebaliknya, apabila sistem tata kelola AI medis internal kurang memadai, hal itu dapat berujung pada pengecualian dari rantai pasok kesehatan global, bahkan penerimaan klausul pernyataan dan jaminan (Representations & Warranties) yang sangat fatal secara kontraktual. Kini, di industri farmasi dan kesehatan, tata kelola AI merupakan prasyarat mutlak untuk akses ke pasar global.

◆ Tugas perusahaan kesehatan untuk era pasca UU Dasar AI

Perusahaan farmasi-bio dan kesehatan digital harus meninggalkan pendekatan defensif berupa penghindaran regulasi dan beralih ke strategi memperoleh daya saing berkelanjutan yang berlandaskan keselamatan dan kepercayaan pasien. Respons setelah masalah terjadi adalah biaya, tetapi pembangunan sistem kendali pada tahap perancangan lebih mendekati investasi strategis yang menjaga nilai perusahaan. Untuk itu, kami mengusulkan tugas-tugas berikut.

① Sistematisasi akuntabilitas medis yang dapat dibuktikan

Log audit yang secara sistematis mencatat proses tenaga medis atau peneliti di lapangan klinis menelaah hasil keluaran AI dan, sesuai penilaian medis, jika perlu mengoreksi atau menolaknya, ke dalam EMR (rekam medis elektronik) atau sistem penelitian klinis, harus dibangun sejak tahap perencanaan produk. Hal ini menjadi sarana pembelaan inti untuk membuktikan bahwa perusahaan dan manajemen telah memenuhi kewajiban kehati-hatian yang wajar dalam gugatan pemegang saham akibat sengketa medis atau kegagalan uji klinis di kemudian hari.

② Penataan ulang struktur kontrak untuk keseluruhan rantai nilai AI medis

Ketika memanfaatkan model fondasi eksternal untuk pengembangan obat baru dan perangkat terapi digital, atau memasok solusi AI ke rumah sakit dan apotek, risiko harus diperjelas. Struktur kontrak pembagian risiko yang cermat antara penyedia solusi dan institusi pengguna seperti rumah sakit, mengenai bagaimana membagi tanggung jawab akibat cacat teknis, salah diagnosis, dan kebocoran data medis sensitif, mutlak diperlukan.

③ Menegakkan sistem Compliance by Design yang mengutamakan keselamatan pasien

Di perusahaan kesehatan yang menangani nyawa, risiko AI bukan hanya masalah departemen pengembangan TI tertentu, melainkan isu tata kelola seluruh perusahaan yang menentukan hidup-matinya perusahaan. Diperlukan tata kelola yang membangun sistem kendali dengan pelibatan bersama departemen Medical Affairs, perizinan (RA), hukum, dan keamanan informasi sejak awal perencanaan pipeline dan pengembangan solusi, serta mengelolanya secara tetap sebagai agenda inti di tingkat dewan direksi.

◆ Melampaui ilusi legalitas, menuju premium kepercayaan pasien

Penafsiran regulasi yang fleksibel oleh pemerintah memberikan waktu emas inovasi teknologi kepada perusahaan kesehatan, bukan meringankan kewajiban berat pengelolaan risiko yang berkaitan langsung dengan nyawa pasien. Pada era UU Dasar AI 2026, daya saing sejati K-bio dan kesehatan digital tidak lahir dari nyaris melampaui garis batas regulasi perizinan.

Hanya perusahaan yang secara proaktif membangun tata kelola AI medis yang transparan dan dapat dibuktikan yang dapat dinilai sebagai mitra tempat nyawa dan kesehatan dapat dipercayakan oleh mitra global dan pasien. Tata kelola AI yang kokoh bukanlah biaya hangus, melainkan alokasi modal strategis terbaik yang menjaga nilai hakiki perusahaan dan keselamatan pasien.

Tugas yang dilemparkan ke ekosistem kesehatan setelah pemberlakuan UU Dasar AI sudah jelas. Legalitas hanyalah standar minimum. Kepercayaan pasien tidak diperoleh melalui perizinan, melainkan dibuktikan dari struktur kendali, catatan, dan pertanggungjawaban apa yang dimiliki perusahaan pada saat sengketa.

|Opini| Lee Seo-hyeong, pengacara Firma Hukum Daeryun (Perseroan Terbatas)

[Baca artikel selengkapnya]
[Opini] Titik belok strategis perusahaan kesehatan setelah pemberlakuan UU Dasar AI (buka tautan)