Definisi
AI dan Hukum merujuk pada kerangka regulasi, etika, dan kebijakan yang mengatur pengembangan, penerapan, dan dampak teknologi kecerdasan buatan dalam berbagai aspek kehidupan masyarakat dan aktivitas ekonomi. Di Indonesia, belum ada undang-undang yang secara khusus dan menyeluruh mengatur kecerdasan buatan sebagai teknologi, sehingga penerapannya diatur lewat kombinasi UU ITE, UU Pelindungan Data Pribadi, dan aturan sektoral yang sudah ada.
Pemerintah Indonesia menetapkan Strategi Nasional Kecerdasan Artifisial 2020-2045 (Stranas KA) sebagai arah kebijakan pengembangan dan pemanfaatan AI yang bertanggung jawab, mencakup aspek etika AI, tata kelola data, pengembangan sumber daya manusia, serta penguatan ekosistem riset dan inovasi.
Pendekatan Indonesia sejauh ini bersifat mengatur dampak, bukan mengatur teknologinya secara langsung. Kalau AI dipakai untuk memproses data pribadi, yang berlaku adalah UU PDP. Kalau AI dijalankan lewat sistem elektronik yang melayani publik, yang berlaku adalah kewajiban keandalan sistem elektronik dalam UU ITE.
Konsekuensi Hukum
Ada beberapa persoalan hukum yang berulang muncul ketika AI dipakai mengambil atau membantu mengambil keputusan yang berdampak pada orang lain.
Tanggung jawab atas keputusan yang keliru. Kalau sistem AI menghasilkan keputusan yang merugikan, misalnya penolakan kredit yang tidak adil atau rekomendasi medis yang salah, pertanyaannya siapa yang bertanggung jawab: pengembang model, penyelenggara sistem yang memakainya, atau operator yang mengoperasikannya sehari-hari. Hukum Indonesia belum punya jawaban khusus untuk AI, sehingga prinsip yang dipakai tetap prinsip umum: penyelenggara sistem elektronik bertanggung jawab atas keandalan dan keamanan sistem yang dioperasikannya, termasuk sistem yang memakai AI di dalamnya.
Bias dan diskriminasi algoritmik. Model AI yang dilatih dari data historis bisa mewarisi bias yang ada dalam data tersebut, misalnya menolak pemohon kredit dari kelompok tertentu secara tidak proporsional. Regulator sektor keuangan menegaskan prinsip keadilan dan nondiskriminasi tetap berlaku meskipun keputusan dibantu algoritma.
Transparansi dan hak penjelasan. Orang yang terdampak keputusan otomatis berhak mengetahui dasar keputusan itu, bukan sekadar diberi tahu bahwa “sistem yang memutuskan”. UU PDP secara khusus memberi hak menolak keputusan yang semata-mata dibuat otomatis dan berdampak hukum bagi subjek data.
Hak Cipta atas Karya yang Dihasilkan AI
Persoalan lain yang makin sering muncul adalah status hak cipta atas gambar, tulisan, atau musik yang dihasilkan AI generatif. Hukum hak cipta Indonesia mensyaratkan adanya pencipta yang merupakan orang, sehingga karya yang sepenuhnya dihasilkan mesin tanpa campur tangan kreatif manusia berada di posisi yang belum jelas statusnya sebagai ciptaan yang dilindungi.
Persoalan berlapis muncul ketika model AI dilatih memakai karya orang lain tanpa izin. Kalau data pelatihan mengandung karya berhak cipta yang dipakai tanpa lisensi, ada potensi pelanggaran hak cipta pada tahap pelatihan, terlepas dari status hukum karya yang dihasilkan di ujungnya. Perdebatan ini masih berlangsung di berbagai negara, termasuk Indonesia, dan belum ada putusan pengadilan Indonesia yang secara khusus menjawabnya secara tuntas.
Dasar Hukum
Karena belum ada undang-undang AI yang berdiri sendiri, dasar hukum yang dipakai selalu bergantung pada konteks pemakaiannya. Kalau AI dijalankan sebagai bagian dari sistem elektronik yang melayani publik atau transaksi, kewajiban penyelenggara sistem elektronik untuk beroperasi secara andal dan aman dalam UU ITE tetap berlaku, termasuk untuk kegagalan yang disebabkan komponen AI di dalamnya.
Kalau AI memproses data pribadi, misalnya untuk pengenalan wajah, credit scoring, atau personalisasi konten, UU No. 27 Tahun 2022 tentang Pelindungan Data Pribadi menjadi rujukan utama. Pemrosesan itu harus punya dasar yang sah dan subjek data punya hak menolak keputusan otomatis yang berdampak hukum baginya.
Di tingkat kebijakan, pemerintah menerbitkan berbagai pedoman etika penggunaan AI di sektor tertentu, misalnya pedoman etika kecerdasan buatan di sektor keuangan dan pedoman pemanfaatan AI generatif di instansi pemerintah, meski pedoman semacam ini umumnya bersifat imbauan, bukan aturan yang punya sanksi pidana tersendiri.
Perbedaan dengan Otomasi Konvensional
Tidak semua sistem otomatis adalah AI, dan pembedaan ini penting karena tingkat kehati-hatian hukumnya berbeda.
| Pembeda | Otomasi konvensional | Sistem berbasis AI |
|---|---|---|
| Cara kerja | Mengikuti aturan tetap yang ditulis manusia (if-then) | Mempelajari pola dari data dan bisa menghasilkan keputusan yang tidak eksplisit ditulis manusia |
| Prediktabilitas | Hasilnya bisa ditelusuri langsung ke aturan tertentu | Hasilnya bisa sulit dijelaskan meski sistemnya berjalan benar |
| Risiko bias | Bias mengikuti kesalahan penulisan aturan | Bias bisa muncul tersembunyi dari pola data pelatihan |
| Tanggung jawab hukum | Relatif jelas mengikuti siapa yang menulis aturan | Lebih rumit karena melibatkan pengembang model, penyedia data, dan pengguna sistem |
Perbedaan ini yang membuat regulator di berbagai negara, termasuk Indonesia, cenderung meminta transparansi ekstra ketika sebuah sistem dipastikan memakai AI, dibanding sistem otomatis biasa yang perilakunya sudah dapat diprediksi sejak awal.
Ilustrasi
Penggunaan AI dalam sistem peradilan Indonesia mulai dieksplorasi lewat proyek percontohan sistem penelusuran perkara berbasis AI di Mahkamah Agung. Sistem ini membantu hakim menganalisis putusan serupa dan memberi rekomendasi, namun keputusan akhir tetap berada di tangan hakim sebagai pengambil keputusan, bukan mesinnya. Penggunaan AI di pengadilan tetap menimbulkan diskursus mengenai transparansi algoritma dan potensi bias dalam rekomendasi yang dihasilkan.
Di dunia bisnis, sebuah perusahaan fintech bernama fiktif menggunakan AI untuk menilai kelayakan kredit calon peminjam bernama Dedi. Permohonan Dedi ditolak tanpa penjelasan rinci selain notifikasi “tidak memenuhi kriteria sistem”. Karena keputusan itu semata-mata dihasilkan algoritma dan berdampak hukum baginya, Dedi berhak meminta penjelasan dasar penolakan tersebut berdasarkan hak subjek data untuk menolak keputusan otomatis. Regulator sektor keuangan menegaskan bahwa penggunaan AI dalam penilaian kredit harus tetap memenuhi prinsip keadilan dan tidak boleh diskriminatif, sekalipun prosesnya dijalankan mesin.