Definisi
Aspek hukum algoritma adalah kajian mengenai persoalan hukum yang muncul ketika algoritma dan sistem kecerdasan buatan dipakai untuk mengambil atau membantu pengambilan keputusan yang berdampak langsung pada kehidupan individu dan masyarakat. Algoritma kini dipakai di hampir semua lini kehidupan digital: menentukan siapa yang layak mendapat pinjaman, harga yang dilihat setiap pengguna di aplikasi belanja, konten mana yang dihapus oleh platform media sosial, hingga siapa yang direkomendasikan untuk sebuah pekerjaan.
Persoalan hukum muncul karena algoritma sering kali bekerja sebagai “kotak hitam” yang sulit dijelaskan bahkan oleh pembuatnya sendiri, sehingga individu yang terdampak keputusan algoritma kadang tidak tahu alasan sebenarnya di balik penolakan pinjaman, penurunan skor kredit, atau pemblokiran akun. Ketidakjelasan ini menimbulkan pertanyaan mendasar: siapa yang bertanggung jawab jika algoritma keliru atau bias, dan bagaimana individu bisa mempertanyakan keputusan yang diambil mesin tanpa campur tangan manusia?
Indonesia belum punya undang-undang khusus yang mengatur algoritma dan kecerdasan buatan secara komprehensif, sehingga persoalan ini untuk sementara ditangani lewat kerangka hukum yang sudah ada, terutama yang berkaitan dengan perlindungan data pribadi dan perlindungan konsumen.
Dasar Hukum
Undang-undang tentang pelindungan data pribadi menjadi rujukan hukum paling relevan saat ini, karena mewajibkan pemrosesan data pribadi dilakukan secara terbatas, spesifik, sah secara hukum, dan transparan — termasuk ketika data pribadi diolah oleh sistem algoritma untuk menghasilkan keputusan otomatis. Undang-undang yang sama juga menjamin hak subjek data untuk mendapatkan akses dan salinan atas data pribadinya sendiri, yang menjadi dasar bagi individu untuk mempertanyakan data apa yang dipakai algoritma dalam mengambil keputusan terhadap dirinya.
Di luar itu, Badan Riset dan Inovasi Nasional telah menerbitkan strategi nasional kecerdasan artifisial sebagai arah kebijakan, meski sifatnya masih berupa panduan kebijakan dan belum mengikat secara hukum layaknya undang-undang. Sektor jasa keuangan juga memiliki aturan tersendiri dari OJK yang menyinggung prinsip perlakuan adil dan transparansi ketika lembaga keuangan menggunakan sistem otomatis untuk penilaian kredit atau profil risiko nasabah.
Unsur-Unsur Persoalan Hukum
Beberapa unsur menjadi inti dari persoalan hukum algoritma. Pertama, transparansi dan explainability, yaitu sejauh mana sebuah keputusan algoritma bisa dijelaskan dengan bahasa yang dipahami manusia, bukan sekadar output angka tanpa alasan. Kedua, bias algoritmik, yaitu potensi algoritma mendiskriminasi kelompok tertentu karena data pelatihannya mencerminkan bias yang sudah ada di masyarakat, misalnya bias terhadap wilayah geografis atau riwayat ekonomi tertentu.
Ketiga, akuntabilitas, yaitu kejelasan siapa yang bertanggung jawab secara hukum atas dampak keputusan algoritma — pengembang sistem, perusahaan yang mengoperasikannya, atau keduanya. Keempat, hak untuk menolak keputusan otomatis sepenuhnya, yang memungkinkan individu meminta agar keputusan penting yang berdampak signifikan terhadap dirinya tidak semata diambil oleh mesin tanpa keterlibatan manusia. Kelima, persoalan kekayaan intelektual atas karya yang dihasilkan oleh sistem kecerdasan buatan, yang masih menjadi perdebatan terbuka di banyak negara termasuk Indonesia.
Keenam, persoalan keamanan data yang dipakai untuk melatih algoritma, karena data pelatihan yang bocor atau disalahgunakan bisa membuka celah bagi pihak lain untuk merekayasa balik profil individu yang seharusnya dilindungi. Ketujuh, tanggung jawab lintas batas ketika algoritma yang dipakai sebuah platform di Indonesia sebenarnya dikembangkan dan dilatih oleh perusahaan induk di luar negeri, sehingga menimbulkan pertanyaan hukum mana yang berlaku ketika terjadi sengketa akibat keputusan algoritma tersebut.
Studi Kasus
Sebuah platform fintech pembiayaan menggunakan algoritma penilaian kredit otomatis yang ternyata secara konsisten menolak pengajuan pinjaman dari calon peminjam di wilayah tertentu meski profil keuangannya setara dengan peminjam di wilayah lain. Setelah menerima aduan, OJK memerintahkan platform tersebut mengaudit ulang algoritmanya dan memastikan variabel wilayah tidak dipakai sebagai proksi yang secara tidak langsung mendiskriminasi calon peminjam berdasarkan asal domisili.
Kasus lain terjadi ketika sebuah platform belanja daring menampilkan harga yang berbeda kepada pengguna berbeda untuk produk yang sama, berdasarkan profil kebiasaan belanja masing-masing pengguna. Sejumlah konsumen yang menyadari perbedaan harga ini mengajukan keluhan karena merasa tidak transparan, mendorong platform tersebut memberikan penjelasan lebih terbuka mengenai mekanisme penentuan harga dinamisnya.
Kapan Istilah Ini Muncul
Istilah ini biasanya muncul dalam konteks sengketa antara konsumen dan penyelenggara platform digital yang menggunakan sistem otomatis, misalnya ketika seseorang ditolak pengajuan kreditnya tanpa penjelasan memadai, akunnya diblokir sepihak oleh sistem moderasi otomatis, atau merasa diperlakukan tidak adil oleh sistem rekomendasi kerja. Aspek hukum algoritma juga relevan dibahas saat perusahaan menyusun kebijakan privasi dan tata kelola data terkait sistem otomatis yang mereka bangun, sebagai bagian dari kepatuhan terhadap prinsip transparansi pemrosesan data.
Pertanyaan yang Sering Diajukan
Apakah saya berhak tahu alasan algoritma menolak pengajuan pinjaman saya? Anda berhak meminta penjelasan dan mengakses data pribadi yang dipakai dalam proses tersebut, meski penjelasan detail cara kerja algoritma secara teknis tidak selalu wajib diungkapkan secara penuh oleh perusahaan.
Bisakah saya menolak keputusan yang sepenuhnya diambil oleh mesin? Untuk keputusan yang berdampak signifikan, Anda pada prinsipnya berhak meminta keterlibatan manusia dalam meninjau ulang keputusan tersebut, terutama jika keputusan itu merugikan Anda secara nyata.
Siapa yang bisa digugat jika algoritma terbukti bias dan merugikan? Umumnya perusahaan yang mengoperasikan dan memanfaatkan algoritma tersebut untuk mengambil keputusan bisnis, karena tanggung jawab hukum melekat pada pihak yang memutuskan menggunakan sistem itu terhadap konsumennya.
Apakah ada lembaga khusus yang mengawasi penggunaan algoritma di Indonesia? Belum ada lembaga khusus untuk algoritma dan AI secara umum. Pengawasan saat ini tersebar di lembaga sektoral seperti OJK untuk sektor keuangan dan lembaga perlindungan data untuk urusan pemrosesan data pribadi.