Sebuah permohonan ditolak beberapa saat setelah formulir dikirim. Pemberitahuan hanya menyebutkan bahwa hasilnya berasal dari sistem otomatis. Di balik kalimat singkat itu masih ada pertanyaan: data apa yang dipakai, apakah sistem menghasilkan saran atau keputusan akhir, dan siapa yang dapat memeriksa kesalahan?
Keputusan otomatis berbasis AI perlu dipahami sebagai rangkaian, bukan sekadar hasil di layar. Ada informasi yang dikumpulkan, cara informasi itu diolah, ukuran yang dipilih, serta tindakan yang mengikuti hasilnya. Pada setiap tahap, keputusan manusia tentang rancangan dan penggunaan sistem dapat memengaruhi akibat bagi orang yang dinilai.
Dalam konteks Indonesia, salah satu titik rujukannya adalah Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi atau UU PDP. Undang-undang ini mengatur hak keberatan dalam kondisi tertentu. Pembahasan berikut memetakan persoalannya tanpa menyimpulkan bahwa setiap penggunaan AI melanggar hukum atau bahwa setiap hasil otomatis dapat digugat dengan alasan yang sama.
Dari data hingga keputusan
Bayangkan sebuah layanan hipotetis menerima permohonan, lalu menggunakan sistem untuk menghasilkan skor. Skor tersebut dibandingkan dengan ambang yang ditentukan penyelenggara. Permohonan di bawah ambang kemudian ditolak tanpa pemeriksaan individual lebih lanjut.

Dalam contoh itu, ada beberapa bagian yang perlu dipisahkan:
- Data masukan: informasi yang diberikan pemohon atau diperoleh dari sumber lain.
- Pengolahan dan penilaian: cara sistem menggunakan data untuk menghasilkan skor atau kategori.
- Aturan tindakan: hubungan antara skor, ambang, dan hasil yang diberikan.
- Keputusan dan dampak: penolakan permohonan serta akibatnya bagi pemohon.
Sistem lain dapat menggunakan skor yang sama hanya untuk membantu petugas menentukan berkas mana yang perlu diperiksa lebih dahulu. Adanya skor belum menjelaskan apakah skor tersebut menentukan keputusan akhir. Untuk mengetahuinya, perlu dilihat alur yang sebenarnya, termasuk aturan yang berlaku ketika hasil sistem tidak sesuai dengan informasi lain.
Istilah AI juga tidak menjelaskan seluruh mekanismenya. Suatu proses otomatis dapat menggunakan aturan yang ditetapkan secara langsung, sedangkan sistem lain menggunakan model yang dibangun dari data. Keduanya dapat memengaruhi orang, tetapi pertanyaan tentang cara menelusuri hasilnya bisa berbeda. Pasal 10 UU PDP sendiri tidak membatasi rumusannya hanya pada sistem yang disebut AI.
Profil, rekomendasi, dan keputusan akhir
Profiling atau pemrofilan secara umum dapat dipahami sebagai pengolahan informasi untuk membentuk gambaran atau perkiraan tentang seseorang. Perkiraan itu bisa menjadi masukan bagi rekomendasi atau keputusan, tetapi pembentukan profil tidak selalu identik dengan keputusan akhir.
| Tahap | Contoh hipotetis | Pertanyaan utama |
|---|---|---|
| Pemrofilan | Sistem memperkirakan kelompok minat berdasarkan aktivitas akun. | Informasi apa yang digunakan dan apa yang sebenarnya disimpulkan? |
| Rekomendasi | Sistem menyarankan agar sebuah permohonan diperiksa lebih lanjut. | Seberapa besar pengaruh saran terhadap proses berikutnya? |
| Keputusan otomatis | Sistem langsung menolak permohonan berdasarkan hasil pengolahan. | Apakah keputusan hanya didasarkan pada pemrosesan otomatis dan apa dampaknya? |
Ketiganya dapat hadir dalam satu proses. Sebuah kategori yang tampak sebagai label internal mungkin menjadi penentu bila organisasi menghubungkannya langsung dengan penolakan. Sebaliknya, rekomendasi belum tentu menjadi keputusan akhir jika penilai benar-benar memeriksa informasi relevan dan memiliki kewenangan untuk menyimpang darinya.
Perbedaan ini dibahas lebih khusus dalam profiling dan keputusan otomatis dalam pelindungan data pribadi. Penggunaan istilah dalam antarmuka saja tidak cukup untuk menentukan apakah kondisi hukum tertentu terpenuhi.
Data yang masuk belum tentu menggambarkan keadaan
Data yang digunakan sistem dapat berasal dari formulir, catatan penggunaan layanan, dokumen, sumber lain, atau hasil perkiraan sebelumnya. Masing-masing membawa pertanyaan yang berbeda. Informasi yang dimasukkan seseorang dapat salah ketik atau menjadi usang; informasi yang disimpulkan sistem dapat keliru meskipun data asalnya benar.
Misalnya, sebuah sistem hipotetis membaca riwayat transaksi yang terhubung dengan akun lama. Jika akun itu pernah digunakan bersama, catatannya belum tentu menggambarkan satu orang. Jika catatan beberapa bulan tidak tersedia, ketiadaan transaksi juga belum tentu berarti tidak pernah ada transaksi. Hasil penilaian perlu dibaca bersama keterbatasan tersebut.
Ada perbedaan antara memperbaiki data dan memperbaiki kesimpulan. Mengubah alamat yang salah dapat memperbaiki satu masukan. Namun, hasil penilaian masih perlu diperiksa jika aturan sistem memberi arti yang tidak tepat pada alamat tersebut. Begitu pula, data yang akurat belum dengan sendirinya membuktikan bahwa penggunaannya relevan untuk keputusan tertentu.
Data pribadi tidak selalu berupa nama yang terlihat di formulir. Informasi yang dapat dikaitkan dengan seseorang, termasuk melalui penggabungan dengan informasi lain, juga memerlukan perhatian. Pembahasan tentang data pribadi yang sering dibagikan saat memakai aplikasi menjelaskan perbedaan antara data yang diberikan, tercatat, dan disimpulkan.
Dampak dan risiko perlakuan berbeda
Dampak suatu hasil bergantung pada apa yang dilakukan setelahnya. Rekomendasi urutan konten dan penolakan akses terhadap layanan penting dapat sama-sama menggunakan perkiraan, tetapi konsekuensinya bagi orang yang dinilai berbeda. Untuk memahami sebuah keputusan, perlu diketahui peluang apa yang tersedia atau tertutup, berapa lama akibatnya berlangsung, dan apakah ada cara untuk memperbaiki kekeliruan.
Risiko perlakuan berbeda juga tidak cukup dinilai dari ada atau tidaknya satu kolom sensitif. Data lain dapat berkaitan dengan keadaan seseorang dan memengaruhi hasil. Sebagai ilustrasi, sebuah ukuran yang tampak netral mungkin lebih sering tidak tersedia bagi kelompok pelamar tertentu karena cara dokumen dikumpulkan. Jika ketiadaan itu otomatis diperlakukan sebagai nilai buruk, hasilnya perlu ditelusuri menurut penyebab dan konteksnya.
Kemungkinan tersebut bukan bukti bahwa suatu sistem tertentu diskriminatif. Untuk menilai kasus konkret diperlukan informasi mengenai data, kriteria, proses penerapan, hasil, dan aturan hukum yang relevan. Perbedaan hasil juga perlu diperiksa, bukan langsung disamakan dengan bukti penyebabnya.
Contoh pada tahap rekrutmen memiliki pertanyaan tersendiri tentang relevansi kriteria dan peran penilai. Cakupan tersebut diperdalam dalam AI untuk seleksi pelamar kerja.
Hak keberatan dalam UU PDP
Pasal 10 UU PDP memberi subjek data pribadi hak mengajukan keberatan atas tindakan pengambilan keputusan yang hanya didasarkan pada pemrosesan secara otomatis, termasuk pemrofilan, apabila keputusan itu menimbulkan akibat hukum atau berdampak signifikan terhadap subjek data pribadi.
Rumusan tersebut memiliki beberapa unsur yang perlu dibaca bersama: ada tindakan pengambilan keputusan; keputusannya hanya didasarkan pada pemrosesan otomatis; dan terdapat akibat hukum atau dampak signifikan. Karena itu, tidak setiap penggunaan AI atau setiap personalisasi otomatis masuk ke dalam cakupan Pasal 10. Apakah unsur-unsurnya terpenuhi dalam suatu keadaan memerlukan pemeriksaan fakta.
Hak mengajukan keberatan juga perlu dibedakan dari jaminan bahwa hasil pasti berubah. Teks Pasal 10 menyatakan hak keberatan dan menyebut pengaturan lebih lanjut dalam peraturan pemerintah. Teks tersebut saja tidak menetapkan bahwa semua keberatan harus menghasilkan pembatalan keputusan atau membuka seluruh rincian model.
UU PDP juga memuat hak terkait informasi, perbaikan, akses, dan salinan data pribadi dalam Pasal 5–7, sesuai ketentuan yang berlaku. Hak-hak tersebut menjawab pertanyaan yang berbeda dari keberatan atas keputusan otomatis. Misalnya, permintaan memperbaiki tanggal lahir yang keliru berfokus pada data; keberatan atas keputusan berfokus pada tindakan pengambilan keputusannya. UU PDP juga mengatur pengecualian tertentu terhadap sejumlah hak, termasuk hak dalam Pasal 10 ayat (1), sehingga penerapannya memerlukan pembacaan ketentuan lengkap.
Apa arti keterlibatan manusia?
Keberadaan nama petugas dalam alur belum otomatis menjelaskan seberapa besar peran manusia. Dalam satu skenario, petugas hanya menekan tombol yang meneruskan hasil sistem. Dalam skenario lain, petugas dapat membaca informasi yang relevan, mempertimbangkan penjelasan tambahan, dan mengubah hasil. Kedua proses itu sama-sama melibatkan seseorang, tetapi memberikan ruang pemeriksaan yang berbeda.
Untuk memahami kualitas peninjauan, pertanyaan praktisnya meliputi:
- Informasi apa yang tersedia bagi peninjau, termasuk data yang mungkin salah atau tidak lengkap?
- Apakah peninjau memahami fungsi skor dan batas penggunaannya?
- Apakah peninjau dapat meminta informasi tambahan atau memperbaiki kesalahan?
- Apakah peninjau berwenang mengambil hasil yang berbeda, dan bagaimana alasannya dicatat?
- Apakah orang yang terdampak dapat menyampaikan koreksi atau konteks yang relevan?
Pertanyaan tersebut merupakan kerangka untuk membaca proses, bukan pernyataan bahwa seluruh rinciannya diwajibkan dalam setiap situasi oleh Pasal 10. Keterlibatan manusia dan apakah keputusan hanya didasarkan pada pemrosesan otomatis tetap perlu dinilai berdasarkan kenyataan prosesnya. Pembahasan lebih jauh tersedia dalam peninjauan manusia atas keputusan AI.
Siapa yang perlu menjelaskan dan bertanggung jawab?
Satu sistem dapat melibatkan beberapa pihak: organisasi yang menggunakan hasil untuk mengambil keputusan, penyedia sistem, penyedia infrastruktur, serta pihak yang menyediakan data. Nama masing-masing dalam kontrak atau layar belum selalu menjawab fungsi yang sebenarnya. Penelusuran dimulai dari siapa yang menentukan tujuan dan kendali pemrosesan, siapa yang memproses data atas nama pihak lain, serta siapa yang menetapkan dan menjalankan keputusan.
Dalam kerangka UU PDP, istilah pengendali dan prosesor data pribadi mempunyai arti hukum yang berkaitan dengan peran pemrosesan. Organisasi tidak dapat dinilai hanya dari sebutan pemasarnya. Hubungan antarorganisasi dan tindakan yang benar-benar dilakukan perlu diperiksa bersama ketentuan yang relevan.
Pertanggungjawaban juga mempunyai beberapa lapisan. Kesalahan data, rancangan kriteria, penerapan ambang, dan penanganan keberatan dapat melibatkan pertanyaan yang berbeda. Fakta bahwa perangkat lunak dibuat pihak lain belum dengan sendirinya menjawab siapa bertanggung jawab atas setiap akibat; begitu pula, keterlibatan penyedia belum membuktikan bahwa penyedia itulah satu-satunya pihak yang bertanggung jawab.
Pasal 34 UU PDP mewajibkan pengendali melakukan penilaian dampak pelindungan data pribadi ketika pemrosesan berpotensi menimbulkan risiko tinggi. Pasal tersebut menyebut, antara lain, pengambilan keputusan otomatis yang memiliki akibat hukum atau dampak signifikan terhadap subjek data pribadi. Kewajiban itu perlu dibaca menurut cakupan dan ketentuan pasalnya, bukan sebagai kesimpulan bahwa setiap fitur AI memerlukan penilaian yang sama.
Menelusuri keputusan yang dipersoalkan
Ketika menerima hasil yang tidak jelas, langkah awal yang berguna adalah memisahkan apa yang diketahui dari apa yang masih berupa dugaan. Pemberitahuan penolakan dapat membuktikan bahwa hasil tersebut disampaikan, tetapi belum tentu menjelaskan data yang dipakai atau peran manusia dalam prosesnya.
Catat keputusan, tanggal, identitas layanan, serta penjelasan yang diberikan. Jika tersedia kanal resmi, pertanyaan dapat diarahkan pada proses yang konkret: apakah keputusan diambil secara otomatis, data apa yang digunakan, bagaimana kesalahan data dapat diperbaiki, dan bagaimana menyampaikan keberatan. Simpan tanggapan serta nomor rujukan yang diberikan, dan hindari mengirim dokumen sensitif yang tidak diperlukan untuk pertanyaan awal.
Jawaban bahwa sistem menggunakan AI belum menyelesaikan penelusuran. Demikian pula, kurangnya penjelasan belum dengan sendirinya membuktikan pelanggaran. Yang perlu dicari adalah hubungan antara informasi, pengolahan, keputusan, dampak, dan pihak yang dapat menanganinya. Ketentuan sektoral atau keadaan khusus dapat menambah pertanyaan hukum yang relevan.
Artikel ini merupakan informasi umum mengenai kerangka Indonesia, bukan nasihat hukum untuk keadaan pribadi atau penetapan tanggung jawab dalam perkara tertentu.

