Birokrasi Pintar, Warga Tertinggal? Menimbang Etika AI Dalam Pelayanan Publik

Sekarang ini algoritma makin sering kita temui di layanan publik, mulai dari chatbot yang menjawab pengaduan sampai sistem yang menyaring siapa saja yang berhak menerima bantuan, dan semuanya dijanjikan lebih cepat, lebih murah, serta lebih efisien. Tetapi pengalaman Belanda patut kita jadikan peringatan, sebab otoritas pajak di sana memakai sistem penilai risiko untuk mendeteksi kecurangan tunjangan pengasuhan anak dan kewarganegaraan menjadi salah satu faktor risiko yang dipakai, sehingga menimbulkan diskriminasi dan pembuatan profil rasial (Amnesty International, 2021). Akibatnya, ribuan kehidupan hancur dan skandal ini menjatuhkan pemerintah Belanda pada Januari 2021. Dari sini kita belajar bahwa teknologi yang dipakai tanpa pengawasan bisa merusak hidup warga atas nama efisiensi, dan Indonesia yang terus memperluas layanan digital pemerintahan sebaiknya bercermin dari kasus ini. Menurut saya, pertanyaannya sekarang bukan lagi apakah birokrasi akan menjadi pintar, tetapi apakah warga ikut terbawa di dalamnya.

Persoalan ini saya kaitkan dengan Buku Ajar Governansi Digital: Fondasi Konseptual Menuju Dampak Nyata bagi Masyarakat dan Pemerintahan Modern karya Andhika Wahyudiono, pada Bab 5 tentang Tata Kelola Kecerdasan Buatan dalam Pemerintahan, tepatnya di Sub bab 5.3 tentang AI Risk Assessment dan Governance Tools, yang menjelaskan bahwa penilaian risiko merupakan fondasi tata kelola AI yang bertanggung jawab karena membantu pemerintah mengenali risiko, mengukur dampaknya, dan memantau kinerja sistem secara terus-menerus. Novelli et al. (2025) menjelaskan bahwa sistem AI berisiko tinggi di Uni Eropa wajib diaudit dan dinilai risikonya, sedangkan Mehta dan Neti (2026) menemukan bahwa banyak organisasi belum punya kerangka kerja formal untuk menilai dampak AI dan alat tata kelola yang ada sering tidak dijalankan secara konsisten. Jadi, antara yang dibutuhkan dan yang benar-benar dipraktikkan, jaraknya masih lebar.

Sebenarnya Indonesia sudah punya pijakan hukum, yaitu Pasal 10 ayat (1) UU No. 27 Tahun 2022 tentang Pelindungan Data Pribadi (UU PDP) yang memberi hak kepada pemilik data untuk mengajukan keberatan atas keputusan yang hanya didasarkan pada pemrosesan otomatis, termasuk pemrofilan, yang menimbulkan akibat hukum atau berdampak signifikan bagi dirinya. Masalahnya, hak di atas kertas belum tentu bisa dipakai, sebab warga hanya bisa mengajukan keberatan kalau tahu bahwa keputusan tentang dirinya dibuat oleh mesin, dan instansi hanya bisa menjawabnya kalau sistemnya bisa dijelaskan dan diaudit. Karena itu, penilaian risiko seperti yang ditekankan di buku ajar menjadi syarat agar hak tersebut benar-benar berjalan.

Kalau dilihat dari sudut pandang administrasi publik, masalah ini bisa dibaca lewat teori good governance dari UNDP (1997), yang menyebutkan bahwa tata kelola yang baik memiliki sembilan karakteristik inti, di antaranya transparansi, akuntabilitas, dan daya tanggap atau responsivitas. Transparan artinya warga tahu kapan, untuk apa, dan bagaimana AI dipakai dalam layanan, akuntabel artinya keputusan tetap bisa dimintai pertanggungjawaban kepada pejabat yang berwenang dan tidak berhenti pada jawaban “itu kata sistem”, sedangkan responsif artinya ada jalan keluar bagi warga yang kesulitan dengan sistem, misalnya lansia, warga yang tidak punya gawai memadai, atau mereka yang tinggal di daerah dengan sinyal terbatas. Kasus Belanda memperlihatkan apa yang terjadi bila ketiganya diabaikan, sebab otoritas pajak tidak menilai risiko terhadap hak asasi manusia sebelum memakai model tersebut, dan korban sulit memperoleh upaya pemulihan yang efektif (Amnesty International, 2021). Komisi penyelidikan parlemen Belanda sendiri menyimpulkan bahwa skandal itu melanggar prinsip dasar negara hukum. Jadi, warga bisa tertinggal bukan hanya karena gagap teknologi, tetapi karena sistemnya tidak diawasi.

Gambar Bagan: Alur Keterkaitan Masalah Empiris, Teori Good Governance, dan Analisis Ilmu Administrasi dalam Etika AI Pelayanan Publik.

Bagan tersebut menunjukkan bahwa etika AI tidak cukup diselesaikan dengan membeli teknologi yang lebih canggih, karena setiap masalah di lapangan berpasangan dengan satu prinsip good governance, satu analisis ilmu administrasi, dan satu rekomendasi. Sistem yang sulit dijelaskan melanggar prinsip transparan sehingga keputusan menjadi tertutup bagi warga, audit yang lemah melanggar prinsip akuntabel sehingga tanggung jawab menjadi kabur, dan tidak adanya jalur banding melanggar prinsip responsif sehingga warga tidak terlayani. Dari sana lahir tiga rekomendasi, yaitu wajibkan penilaian risiko, tetapkan pejabat penanggung jawab, dan buka kanal keberatan sesuai UU PDP. Ketiganya bertumpu pada satu fondasi yang sama, yaitu kapasitas administrasi publik.

Hambatan terbesarnya menurut saya bukan teknologi, melainkan kesiapan kelembagaan. Novelli et al. (2025) menemukan bahwa banyak otoritas nasional belum punya sumber daya yang cukup untuk mengaudit AI secara menyeluruh, sedangkan Sun (2025) menambahkan bahwa penilaian risiko sering terhambat karena algoritmanya kurang transparan dan standar yang disepakati secara global juga masih terbatas. Kalau data, kapasitas teknis, dan komitmen kelembagaan tidak dibenahi, AI justru berisiko membuat jarak antara pemerintah dan warganya makin lebar.

Manfaat tata kelola yang baik juga tidak berhenti pada pencegahan masalah, sebab buku ajar menyebutkan bahwa penilaian risiko yang sistematis dapat mengurangi risiko kegagalan sistem, diskriminasi, dan pelanggaran privasi sekaligus meningkatkan kepercayaan publik terhadap teknologi. Kepercayaan adalah modal terpenting dalam pelayanan publik karena warga yang percaya akan mau memakai layanan digital, melaporkan kesalahan, dan memberi masukan, sedangkan satu kesalahan algoritma yang dibiarkan bisa meruntuhkan kepercayaan yang dibangun bertahun-tahun, seperti terlihat dalam kasus Belanda. Karena itu, saya melihat investasi pada etika dan pengawasan bukan beban tambahan, melainkan syarat agar transformasi digital pemerintahan bisa berkelanjutan.

Kesimpulannya, birokrasi yang pintar baru ada artinya kalau warga tidak tertinggal, dan UU PDP yang sudah memberi pijakan hukum saja tidak cukup karena kita juga membutuhkan penilaian risiko yang sistematis, pengawasan manusia yang nyata, serta tata kelola yang transparan, akuntabel, dan responsif. Etika AI pada akhirnya bukan sekadar urusan teknis para pengembang, melainkan urusan tata kelola, yaitu siapa yang memutuskan, siapa yang mengawasi, dan siapa yang bertanggung jawab ketika sistem keliru. Selama pertanyaan itu belum terjawab jelas, secanggih apa pun teknologinya, pelayanan publik belum tentu menjadi lebih adil.

Rekomendasi konkretnya. Pertama, wajibkan penilaian risiko sebelum AI dipakai dalam layanan yang menyentuh hak warga, mulai dari identifikasi risiko, analisis dampak, mitigasi, pemantauan berkelanjutan, sampai audit independen. Kedua, pastikan keputusan penting tidak diserahkan sepenuhnya kepada mesin supaya selalu ada pejabat yang bertanggung jawab. Ketiga, sediakan informasi yang jelas tentang penggunaan AI dan kanal keberatan yang mudah diakses sesuai amanat UU PDP. Keempat, perkuat kapasitas aparatur dan auditor lewat pelatihan penilaian risiko. Kelima, tingkatkan literasi digital warga dan tetap sediakan layanan alternatif nondigital bagi kelompok yang belum terjangkau.

Pemerintah, DPR, kampus, dan masyarakat perlu bergerak bersama, karena teknologi boleh semakin cerdas tetapi pelayanan publik harus tetap berpihak pada manusia. Dengan begitu, kita tidak hanya punya birokrasi yang pintar, tetapi juga negara yang adil bagi seluruh warganya.

*) Mahasiswa Prodi Administrasi Publik Fakultas Ilmu Sosial dan Ilmu Politik Universitas 17 Agustus 1945 Banyuwangi