Era UU Dasar AI, kewajiban hukum AI berdampak tinggi dan strategi respons proaktif

Pada tanggal 22 lalu, 'Undang-Undang Dasar AI' yang akan menjadi landasan hukum industri AI (kecerdasan buatan) mulai diberlakukan secara penuh. Undang-undang ini memuat sebagai intinya pengaturan atas 'AI berdampak tinggi' yang dapat memberikan pengaruh besar terhadap nyawa atau hak dasar manusia. Keamanan dan keandalan teknologi AI yang selama ini berada di ranah regulasi mandiri kini memasuki tahap dituntut pertanggungjawaban menurut ketentuan tertulis. Perubahan ini menuntut para pelaku usaha AI memiliki kemampuan kepatuhan dan manajemen risiko yang sistematis, melampaui daya saing teknologi, dan tampaknya akan menata ulang secara mendasar paradigma operasional industri secara keseluruhan.

Pertama, 'transparansi' harus dijamin agar pengguna dapat mengenali dengan jelas ada tidaknya keterlibatan AI. Ini merupakan pekerjaan dasar untuk membangun kepercayaan pengguna dengan mencegah situasi bercampurnya informasi hasil AI dengan hasil karya manusia dan membuat sumbernya transparan. Karena itu, pelaku usaha AI berdampak tinggi atau AI generatif harus memberitahukan fakta pemanfaatan AI melalui syarat dan ketentuan sebelum menyediakan layanan, serta membubuhkan tanda yang dapat diidentifikasi seperti tanda air pada hasilnya untuk menyatakan bahwa hasil tersebut merupakan produk AI.

Selain itu, perusahaan yang memiliki model AI berukuran sangat besar harus memiliki sistem verifikasi keamanan yang proaktif. Undang-undang menetapkan AI dengan akumulasi jumlah komputasi yang digunakan dalam pelatihan sebesar 10 pangkat 26 FLOPs atau lebih sebagai objek pengelolaan inti. Ini merupakan satu tingkat lebih tinggi daripada standar Uni Eropa (EU) AI Act sebesar 10 pangkat 25 FLOPs, dan diartikan sebagai kehendak untuk membangun sistem manajemen risiko proaktif yang mencakup hingga AI raksasa generasi berikutnya yang akan muncul di masa depan, melampaui model yang ada saat ini. Saat ini LLM perusahaan-perusahaan utama dalam negeri belum mencapai standar ini sehingga kemungkinan langsung diklasifikasikan sebagai 'AI berdampak tinggi' rendah, tetapi membangun tata kelola untuk mengantisipasi lingkungan teknologi masa depan telah menjadi tugas yang tidak terhindarkan.

Selain itu, untuk melengkapi masalah 'kotak hitam', yaitu struktur pengambilan keputusan AI yang tidak transparan, harus ditegakkan 'sistem pengelolaan yang berpusat pada manusia'. Untuk memperjelas letak tanggung jawab atas hasil, pelaku usaha harus memiliki sistem yang dapat menjelaskan tolok ukur penilaian algoritma dan ikhtisar data, serta menyusun prosedur konkret yang memungkinkan manusia segera turun tangan dan mengendalikan saat terjadi kesalahan sistem.

Pada akhirnya, untuk melaksanakan secara efisien persyaratan hukum yang kian kompleks, strategi penanganan terpadu yang menembus seluruh rantai nilai (Value Chain) perusahaan menjadi esensial. Meskipun peraturan sudah diberlakukan, 'masa bimbingan pengenaan denda administratif selama satu tahun' yang ditetapkan pemerintah untuk pemantapan sistem merupakan waktu emas yang sangat berharga bagi perusahaan. Masa ini harus dimanfaatkan bukan sekadar sebagai masa penangguhan untuk menghindari hukuman, melainkan sebagai masa persiapan terbaik untuk menjamin kepastian hukum yang nyata dan membenahi sistem internal.

Untungnya, Undang-Undang Dasar AI secara nyata meringankan beban regulasi ganda pelaku usaha melalui sistem 'anggapan telah melaksanakan'. Caranya adalah menganggap bahwa pelaku usaha pengguna yang memanfaatkan tindakan tertentu yang telah diselesaikan pelaku usaha pengembang AI juga telah melaksanakan kewajiban tersebut, atau mengakui bahwa kewajiban menurut undang-undang ini telah dipenuhi apabila kewajiban menurut undang-undang tersendiri seperti Undang-Undang Produk Medis Digital Korea Selatan atau Undang-Undang Informasi Kredit Korea Selatan telah dipatuhi dengan sungguh-sungguh.

Oleh karena itu, perusahaan harus menjadikan masa bimbingan yang diberikan sebagai masa diagnosis untuk menelaah secara cermat apakah layanannya termasuk kategori AI berdampak tinggi. Bersamaan dengan itu, perusahaan harus menyusun 'strategi pelaksanaan yang disesuaikan per industri' yang mengurangi pemborosan penanganan ganda dengan mempertimbangkan keselarasan dengan peraturan lain. Daya penggerak untuk tetap melaju dengan membentangkan layar inovasi sekalipun di hadapan ombak besar berupa regulasi pada akhirnya bergantung pada seberapa cermat perusahaan mengelola risiko hukumnya.

Tim UKM

[Baca artikel selengkapnya]
Era Undang-Undang Dasar AI, kewajiban hukum AI berdampak tinggi dan strategi penanganan proaktif (kunjungi)