Sebuah aplikasi mengelompokkan akun berdasarkan perkiraan minat. Di tempat lain, sebuah sistem menghasilkan skor yang langsung menentukan apakah permohonan diterima. Keduanya menggunakan pengolahan data, tetapi hasil dan akibatnya berbeda.
Perbedaan antara profiling dan keputusan otomatis membantu menjelaskan apa yang sebenarnya terjadi terhadap data seseorang. Profiling membentuk gambaran atau perkiraan; rekomendasi mengusulkan tindakan; keputusan menentukan suatu hasil. Ketiganya dapat terhubung, tetapi keberadaan salah satunya belum membuktikan bahwa dua tahap lainnya terjadi.
Dalam konteks Indonesia, perbedaan ini juga membantu membaca hak keberatan dalam Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi atau UU PDP. Hak tersebut berkaitan dengan keputusan dalam kondisi tertentu, bukan otomatis berlaku dengan cara yang sama untuk setiap bentuk personalisasi.
Profiling membentuk gambaran atau perkiraan
Secara umum, profiling atau pemrofilan adalah pengolahan informasi untuk membentuk gambaran atau perkiraan tentang seseorang. Masukannya dapat berupa informasi yang diberikan, catatan aktivitas, atau kombinasi data lain. Hasilnya dapat berupa kategori, skor, atau dugaan mengenai karakteristik maupun perilaku.
Sebagai contoh hipotetis, sebuah aplikasi membaca riwayat pencarian akun dan mengelompokkannya sebagai tertarik pada perlengkapan bersepeda. Kategori itu adalah perkiraan berdasarkan informasi yang tersedia. Orang yang menggunakan akun tersebut mungkin sedang mencari hadiah, sehingga perkiraan minat tidak selalu menggambarkan minat pribadinya.
Sebuah profil juga tidak harus tampil sebagai halaman yang diberi nama “profil”. Label internal, skor, atau kesimpulan yang terhubung dengan individu dapat memiliki fungsi serupa dalam alur pengolahan. Pertanyaan pentingnya adalah informasi apa yang masuk, apa yang disimpulkan, dan bagaimana kesimpulan itu digunakan.
Informasi yang disimpulkan berbeda dari informasi yang secara langsung diberikan seseorang. Pembahasan tentang data pribadi dalam aplikasi menjelaskan jalur tersebut lebih lanjut.
Rekomendasi dan keputusan menjawab pertanyaan berbeda
Profil dapat digunakan untuk menyusun rekomendasi, tetapi rekomendasi belum tentu merupakan keputusan akhir. Sebuah sistem mungkin menyarankan agar permohonan diperiksa lebih lanjut. Hasil berikutnya bergantung pada apa yang dilakukan dengan saran itu dan apakah ada ruang nyata untuk mempertimbangkan informasi lain.

| Tahap | Contoh hipotetis | Pertanyaan yang ditinggalkan |
|---|---|---|
| Pemrofilan | Sistem memberi kategori berdasarkan informasi akun. | Apa yang disimpulkan dan dari data apa? |
| Rekomendasi | Sistem menyarankan agar permohonan diperiksa lebih lanjut. | Siapa yang menggunakan saran itu dan untuk tujuan apa? |
| Keputusan otomatis | Sistem langsung menolak permohonan berdasarkan aturan yang ditetapkan. | Apakah hasil hanya didasarkan pada pemrosesan otomatis, dan apa dampaknya? |
Satu proses dapat memuat ketiga tahap tersebut. Kategori yang semula tampak sebagai label dapat menjadi penentu ketika sistem menghubungkannya langsung dengan hasil tertentu. Sebaliknya, sistem dapat membuat keputusan menggunakan aturan atas data masukan tanpa terlebih dahulu membentuk profil yang terpisah.
Pembedaan ini tidak bergantung pada sebutan AI. Suatu alur otomatis dapat memakai aturan yang ditetapkan secara langsung atau menggunakan model yang lebih kompleks. Istilah teknologinya saja belum menjelaskan siapa atau apa yang menentukan hasil.
Kapan hak keberatan dalam UU PDP relevan?
Pasal 10 UU PDP memberikan hak kepada subjek data pribadi untuk mengajukan keberatan atas tindakan pengambilan keputusan yang hanya didasarkan pada pemrosesan secara otomatis, termasuk pemrofilan, apabila keputusan tersebut menimbulkan akibat hukum atau berdampak signifikan pada subjek data.
Unsur-unsur itu perlu dibaca bersama:
- Ada tindakan pengambilan keputusan mengenai subjek data.
- Keputusan tersebut hanya didasarkan pada pemrosesan otomatis, termasuk pemrofilan.
- Keputusan menimbulkan akibat hukum atau dampak signifikan bagi subjek data.
Dengan demikian, adanya profil saja belum menjawab apakah Pasal 10 berlaku. Personalisasi urutan konten, misalnya, perlu dilihat menurut keputusan dan dampak konkretnya; tidak tepat untuk menganggap seluruh personalisasi otomatis memenuhi unsur tersebut. Sebaliknya, label “rekomendasi” juga belum menutup pertanyaan apabila rekomendasi itu dalam praktik langsung menentukan hasil yang berdampak signifikan.
Sebagai ilustrasi, bayangkan sebuah layanan hipotetis otomatis menolak permohonan berdasarkan skor tanpa pemeriksaan lebih lanjut. Penolakan itu merupakan keputusan; apakah dampaknya memenuhi rumusan Pasal 10 tetap memerlukan fakta tentang layanan dan akibat bagi pemohon. Contoh tersebut tidak menetapkan hasil hukum untuk semua penolakan.
Hak mengajukan keberatan berbeda dari jaminan bahwa keputusan akan dibatalkan atau diubah. Pasal 10 juga menyebut bahwa ketentuan lebih lanjut mengenai pengajuan keberatan diatur dalam peraturan pemerintah. Teks pasal itu sendiri tidak menjelaskan seluruh prosedur praktis untuk setiap situasi. UU PDP memuat pengecualian tertentu terhadap sejumlah hak, termasuk hak dalam Pasal 10 ayat (1), sehingga penerapannya perlu dibaca bersama ketentuan lengkap dan konteksnya.
Kehadiran manusia perlu dilihat dalam alur sebenarnya
Nama petugas pada pemberitahuan belum cukup menjelaskan apakah manusia benar-benar berperan dalam keputusan. Petugas mungkin hanya meneruskan hasil sistem, atau mungkin memiliki akses pada informasi yang relevan dan kewenangan untuk mengambil hasil berbeda.
Untuk memahami prosesnya, perhatikan apakah peninjau dapat melihat data yang digunakan, mempertimbangkan koreksi atau konteks tambahan, dan menyimpang dari hasil sistem. Perbedaan tersebut membantu menelaah apakah keputusan hanya didasarkan pada pemrosesan otomatis. Jawabannya bergantung pada kenyataan proses, bukan semata-mata pada nama tahapan di layar.
Pertanyaan ini merupakan alat memahami proses, bukan daftar kewajiban rinci yang seluruhnya dinyatakan dalam Pasal 10. Panduan tentang keputusan otomatis berbasis AI membahas peran peninjauan manusia dalam kerangka yang lebih luas.
Memisahkan kesalahan data dari keberatan atas keputusan
Informasi yang salah dan hasil keputusan yang dipersoalkan dapat saling berkaitan, tetapi keduanya bukan hal yang sama. Misalnya, tanggal lahir yang keliru adalah persoalan pada data masukan. Sebuah kategori yang menyimpulkan seseorang tidak memenuhi syarat adalah hasil pengolahan. Penolakan permohonan berdasarkan kategori itu adalah tindakan berikutnya.
Memperbaiki satu data dapat membantu, tetapi belum selalu menjawab apakah kesimpulan atau aturan yang digunakan sudah tepat. Sebaliknya, keberatan atas keputusan tidak harus dimulai dengan anggapan bahwa semua data masukannya salah. Data yang benar pun dapat dipakai dengan cara atau untuk tujuan yang perlu dipertanyakan.
UU PDP juga mengatur hak terkait informasi, perbaikan, akses, dan salinan data dalam Pasal 5–7, masing-masing menurut ketentuannya. Hak-hak ini memiliki objek yang berbeda dari keberatan atas keputusan otomatis. Ketersediaan dan penerapannya tetap perlu dibaca bersama batas dan pengecualian yang relevan.
Pertanyaan untuk menelusuri satu keputusan
Ketika menerima hasil yang disebut otomatis, langkah awal yang berguna adalah mencatat hasil dan dampaknya secara spesifik. Apakah yang diterima hanya saran, perubahan urutan tampilan, pembatasan akses, atau penolakan suatu permohonan? Lalu pisahkan hal yang diketahui dari bagian proses yang belum dijelaskan.
Pertanyaan kepada penyedia dapat diarahkan pada data yang digunakan, apakah ada skor atau kategori yang memengaruhi hasil, serta bagaimana hasil itu dipakai. Jika tersedia jalur keberatan, uraikan keputusan yang dipersoalkan, dampaknya, dan informasi yang diduga keliru atau belum dipertimbangkan. Simpan tanggal serta jawaban yang diterima, dan gunakan kanal resmi tanpa mengirim data sensitif yang tidak diperlukan.
Jawaban penyedia dapat membantu menjelaskan proses, tetapi belum tentu mengungkap seluruh cara kerja internal. Jika konsekuensinya penting, keadaan konkret dan ketentuan yang berlaku dapat memerlukan penilaian hukum lebih lanjut. Pembahasan ini memberikan informasi umum dalam konteks Indonesia, bukan nasihat hukum untuk keadaan pribadi.

