Definisi
Regulasi AI adalah kerangka hukum, kebijakan, dan pedoman etika yang mengatur bagaimana teknologi kecerdasan buatan dikembangkan, diterapkan, dan dimanfaatkan, baik oleh perusahaan teknologi, lembaga pemerintah, maupun individu. Berbeda dari kebanyakan bidang hukum lain yang mengatur perbuatan manusia secara langsung, regulasi AI menghadapi tantangan unik: sistem yang diatur bisa mengambil keputusan secara otomatis, sehingga pertanyaan “siapa yang bertanggung jawab” menjadi jauh lebih rumit dibanding kasus hukum konvensional.
Di Indonesia, regulasi AI masih berada pada tahap awal dan belum memiliki undang-undang khusus yang mengatur kecerdasan buatan secara menyeluruh. Sebagai gantinya, pengaturan AI saat ini bersandar pada kombinasi ketentuan yang sudah ada — UU ITE untuk aspek keandalan dan keamanan sistem elektronik, UU Pelindungan Data Pribadi untuk aspek pengolahan data yang menjadi bahan bakar utama sistem AI, serta surat edaran dan pedoman etika yang sifatnya lebih menuntun perilaku pelaku usaha dibanding menetapkan sanksi pidana yang tegas.
Ketiadaan undang-undang khusus ini bukan berarti pemanfaatan AI di Indonesia berada di ruang kosong hukum. Ketika sistem AI menimbulkan kerugian nyata — misalnya kesalahan keputusan yang merugikan konsumen atau pelanggaran data pribadi dalam proses pelatihan model — ketentuan hukum yang sudah ada tetap bisa diterapkan, meski penerapannya sering memerlukan penafsiran ekstra karena aturan tersebut awalnya tidak dirancang khusus untuk menjawab persoalan kecerdasan buatan.
Dasar Hukum
Dari sisi keandalan sistem, UU ITE mewajibkan setiap penyelenggara sistem elektronik menyelenggarakan sistemnya secara andal, aman, dan bertanggung jawab atas operasionalnya. Ketentuan ini berlaku pula bagi sistem yang menggunakan komponen kecerdasan buatan, sehingga kegagalan sistem AI yang merugikan pengguna pada dasarnya tetap bisa dinilai sebagai bentuk ketidakpatuhan terhadap kewajiban keandalan tersebut.
Untuk aspek etika, Kementerian Komunikasi dan Informatika menerbitkan surat edaran tentang etika kecerdasan artifisial yang memuat prinsip inklusivitas, kemanusiaan, keamanan, keselamatan, transparansi, dan akuntabilitas. Sifat surat edaran ini adalah pedoman, bukan norma yang membawa sanksi pidana langsung, sehingga fungsinya lebih sebagai arah kebijakan bagi pengembang dan pengguna AI di Indonesia sambil menunggu terbentuknya regulasi yang lebih mengikat di masa depan. Di luar dua ranah itu, pemanfaatan data pribadi dalam melatih atau mengoperasikan sistem AI tetap tunduk pada kewajiban umum pelindungan data pribadi, termasuk kewajiban memperoleh dasar pemrosesan yang sah sebelum data dipakai melatih model.
Jenis-Jenis Ranah Pengaturan AI
Karena belum ada undang-undang tunggal, pengaturan AI di Indonesia sebenarnya tersebar dalam beberapa ranah yang saling beririsan:
- Ranah keandalan sistem elektronik — mengatur agar sistem AI tidak merugikan pengguna akibat kegagalan teknis.
- Ranah perlindungan data pribadi — mengatur pemanfaatan data yang menjadi bahan pelatihan model AI.
- Ranah etika dan pedoman kebijakan — mengatur prinsip pengembangan AI yang bertanggung jawab, meski belum membawa sanksi hukum yang tegas.
- Ranah sektoral — misalnya pengawasan Otoritas Jasa Keuangan terhadap pemanfaatan AI dalam credit scoring di sektor keuangan, yang tunduk pada aturan perlindungan konsumen sektor jasa keuangan.
Empat ranah ini sering harus dibaca bersamaan ketika menilai satu kasus. Sengketa AI di sektor keuangan, misalnya, bisa menyentuh ranah keandalan sistem sekaligus ranah sektoral perbankan dalam waktu bersamaan.
Ilustrasi Kasus
Sebuah perusahaan fintech menggunakan sistem AI untuk menilai kelayakan kredit calon nasabah. Sistem tersebut ternyata menolak pengajuan dari kelompok wilayah tertentu secara tidak proporsional dibanding wilayah lain dengan profil risiko serupa, memunculkan dugaan bias algoritmik. Otoritas Jasa Keuangan meminta perusahaan mengaudit sistem AI-nya dan membuktikan bahwa keputusan penolakan didasarkan pada faktor risiko yang sah, bukan diskriminasi berdasarkan wilayah tempat tinggal semata.
Kasus lain terjadi ketika sebuah platform media sosial memakai AI untuk moderasi konten berbahasa Indonesia. Sistem tersebut keliru mengidentifikasi konten budaya tradisional sebagai konten kekerasan dan menghapusnya secara otomatis tanpa peninjauan manusia. Pemilik akun yang kontennya dihapus mengajukan keberatan, dan platform akhirnya mengembalikan konten tersebut sambil mengakui kelemahan sistem moderasi otomatisnya — sebuah contoh nyata mengapa prinsip transparansi dan akuntabilitas dalam pedoman etika AI dianggap penting, meski belum diwajibkan lewat sanksi hukum yang tegas.
Kesalahpahaman Umum
Ada anggapan bahwa karena keputusan diambil oleh sistem otomatis, pengembang atau operator AI tidak bisa dimintai pertanggungjawaban hukum atas dampaknya. Ini keliru — hukum Indonesia pada dasarnya tetap memandang manusia atau badan hukum di balik sistem itulah yang bertanggung jawab, karena sistem AI adalah alat yang dijalankan dan dikendalikan oleh pihak yang mengoperasikannya, bukan subjek hukum yang berdiri sendiri.
Kesalahpahaman lain adalah anggapan bahwa ketiadaan undang-undang khusus AI berarti pemanfaatan AI sama sekali tidak diatur. Kenyataannya, kombinasi UU ITE, UU PDP, dan aturan sektoral tetap bisa menjerat pelanggaran yang timbul dari penggunaan AI, meski memang belum ada satu kerangka hukum yang secara eksplisit menyebut kata “kecerdasan buatan” di dalamnya.
Kapan Istilah Ini Muncul
Istilah regulasi AI paling sering muncul dalam konteks tiga situasi: ketika sebuah keputusan otomatis merugikan konsumen atau masyarakat, seperti penolakan kredit atau penghapusan konten yang keliru; ketika ada kekhawatiran publik terhadap penyalahgunaan AI, misalnya untuk membuat konten deepfake atau menyebarkan misinformasi; dan ketika pemerintah atau lembaga internasional membahas kerangka kebijakan baru untuk mengantisipasi perkembangan teknologi yang berjalan jauh lebih cepat dibanding proses pembentukan undang-undang.