PENDAHULUAN

Perkembangan teknologi digital telah membawa perubahan dalam cara pemerintah menjalankan tugas dan memberikan pelayanan kepada masyarakat. Salah satu teknologi yang mulai banyak digunakan adalah Artificial Intelligence (AI) [1]. Dalam pemerintahan, AI dapat membantu mengolah data dalam jumlah besar, mengotomatisasi pekerjaan administratif, memberikan informasi kepada masyarakat, sampai mendukung pengambilan keputusan. Penggunaan AI pada dasarnya dapat membuat pelayanan pemerintah menjadi lebih cepat dan efisien. Namun, penggunaan teknologi ini juga membawa persoalan baru yang tidak hanya berkaitan dengan kemampuan teknologi, tetapi juga dengan hukum dan tanggung jawab pemerintah.

Dalam perspektif Hukum Administrasi Negara, setiap tindakan pemerintah harus tetap memiliki dasar dan dapat dipertanggungjawabkan. Digitalisasi pemerintahan memang dapat membuka akses informasi, meningkatkan transparansi, dan memberi ruang bagi masyarakat untuk ikut mengawasi jalannya pemerintahan. Prinsip transparansi dan akuntabilitas menjadi penting karena masyarakat berhak mengetahui bagaimana suatu keputusan pemerintah dibuat dan siapa yang bertanggung jawab atas keputusan tersebut. Ketika AI mulai digunakan dalam proses pemerintahan, persoalan tersebut menjadi lebih kompleks karena sebagian proses pengambilan keputusan dapat dipengaruhi oleh sistem algoritma [2].

Berdasarkan persoalan tersebut, penelitian ini memusatkan perhatian pada bagaimana penggunaan AI dapat ditempatkan dalam kerangka Hukum Administrasi Negara. Pertanyaan yang dibahas adalah: bagaimana penggunaan AI dalam penyelenggaraan pemerintahan dapat memenuhi prinsip akuntabilitas dalam Hukum Administrasi Negara, dan bagaimana perlindungan hak masyarakat dapat tetap dijamin dalam penggunaan AI? Pertanyaan ini penting karena penggunaan AI dalam pemerintahan tidak cukup hanya dilihat dari manfaat dan efisiensinya. Di sisi lain, penelitian mengenai AI dalam administrasi pemerintahan masih banyak membahas manfaat teknologi dan transformasi digital, sehingga pembahasan yang menghubungkan penggunaan AI dengan tanggung jawab administratif dan perlindungan hak masyarakat perlu diperkuat. Beberapa kajian juga menunjukkan bahwa pemanfaatan AI di Indonesia masih membutuhkan kerangka regulasi yang mampu mengikuti perkembangan teknologi sekaligus melindungi hak dan kepentingan masyarakat.

Perkembangan teknologi informasi dan komunikasi telah mendorong pemerintah di berbagai negara untuk mengadopsi layanan digital agar administrasi berjalan lebih cepat dan terbuka. Melalui e-government, seperti portal layanan terpadu dan aplikasi mobile, masyarakat dapat mengakses perizinan, pembayaran pajak, hingga layanan identitas tanpa harus antre lama di kantor pelayanan (Coglianese & Lehr, 2019; Balkin, 2017 dalam Judijanto, 2025). Contoh nyata chatbot layanan publik untuk jawab pertanyaan umum 24 jam. Di negara maju, AI juga dipakai untuk lampu lalu lintas pintar dan prediksi penyebaran penyakit. Masalah hukumnya muncul di sini: kalau chatbot salah kasih info hingga warga rugi, atau algoritma bansos bias dan mengecualikan kelompok tertentu, siapa yang bertanggung jawab? Pejabatnya, vendor AI-nya, atau sistemnya? Inilah yang dalam HAN disebut persoalan akuntabilitas dan perlindungan hak masyarakat(Wirtz et al., 2018; Ebers & Navas, 2020 dalam Judijanto, 2025).

Selain itu, pemanfaatan big data dan AI memungkinkan pemerintah mengambil keputusan berbasis data yang lebih prediktif, misalnya untuk membaca tren sosial-ekonomi, memantau kepatuhan regulasi, hingga mendeteksi potensi fraud. Teknologi ini juga membuka ruang partisipasi publik melalui platform interaktif yang mendorong demokrasi yang lebih partisipatif (Dann & Alston, 2019 dalam Judijanto, 2025).

Dalam konteks Indonesia, pemanfaatan AI pada sektor publik dinilai masih berada pada fase awal. Potensinya besar, tetapi belum didukung kerangka regulasi yang komprehensif. Padahal regulasi yang adaptif dibutuhkan agar inovasi tetap berjalan tanpa mengabaikan hak warga negara (Engstrom et al., 2020 dalam Judijanto, 2025).

Dari sisi Hukum Administrasi Negara, persoalan utama bukanlah pada teknologinya, melainkan pada jaminan bahwa setiap penggunaan AI tetap tunduk pada asas legalitas, transparansi, dan akuntabilitas. Tanpa standar etika, pengawasan, dan pelatihan aparatur yang memadai, penggunaan AI berisiko menimbulkan penyalahgunaan wewenang dan diskriminasi (Larson et al., 2019 dalam Judijanto, 2025).

Uraian di atas menunjukkan adanya kekosongan pengaturan mengenai pertanggungjawaban atas keputusan administrasi yang dihasilkan dengan bantuan AI. Padahal, menurut Hukum Administrasi Negara, setiap Keputusan Tata Usaha Negara harus memenuhi asas legalitas serta dapat diuji keabsahannya. Oleh karena itu, Penelitian ini bertujuan untuk menganalisis penggunaan Artificial Intelligence dalam penyelenggaraan pemerintahan dari perspektif Hukum Administrasi Negara, khususnya mengenai akuntabilitas dan perlindungan hak masyarakat. Penelitian ini diharapkan dapat memberikan pemahaman bahwa penggunaan AI dalam pemerintahan tetap harus berada dalam batas-batas hukum administrasi, terutama prinsip legalitas, transparansi, dan akuntabilitas. Dengan demikian, perkembangan teknologi dapat dimanfaatkan untuk mendukung pelayanan dan penyelenggaraan pemerintahan tanpa mengabaikan hak masyarakat serta tanggung jawab pemerintah.

METODE

Penelitian ini menggunakan metode yuridis normatif, yaitu penelitian yang dilakukan dengan mengkaji aturan hukum dan bahan-bahan kepustakaan yang berkaitan dengan penggunaan Artificial Intelligence (AI) dalam penyelenggaraan pemerintahan. Metode ini digunakan karena penelitian berfokus pada persoalan hukum yang muncul dari penggunaan AI, khususnya mengenai akuntabilitas pemerintah dan perlindungan hak masyarakat. Dengan metode ini, penelitian tidak dilakukan melalui wawancara atau pengamatan langsung di lapangan, tetapi melalui penelaahan terhadap peraturan perundang-undangan dan berbagai literatur yang relevan.

Pendekatan yang digunakan dalam penelitian ini adalah pendekatan perundang-undangan (statute approach) dan pendekatan konseptual (conceptual approach). Pendekatan perundang-undangan digunakan untuk melihat aturan hukum yang berkaitan dengan penggunaan AI dalam penyelenggaraan pemerintahan, pelayanan publik, keterbukaan informasi, dan perlindungan data pribadi. Sementara itu, pendekatan konseptual digunakan untuk memahami konsep-konsep yang berkaitan dengan Hukum Administrasi Negara, terutama mengenai legalitas, transparansi, akuntabilitas, perlindungan hak masyarakat, serta tata kelola penggunaan AI dalam pemerintahan.

Bahan hukum yang digunakan dalam penelitian ini terdiri dari bahan hukum primer dan bahan hukum sekunder. Bahan hukum primer berupa peraturan perundang-undangan yang berkaitan dengan permasalahan penelitian. Peraturan yang digunakan antara lain Undang-Undang Nomor 30 Tahun 2014 tentang Administrasi Pemerintahan, khususnya Pasal 5, Pasal 9, dan Pasal 10 yang berkaitan dengan asas legalitas, perlindungan hak masyarakat, serta Asas-Asas Umum Pemerintahan yang Baik (AUPB). Selain itu, digunakan Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi, terutama Pasal 3, Pasal 5, Pasal 6, dan Pasal 7** yang berkaitan dengan asas pelindungan data pribadi dan hak subjek data. Penelitian ini juga menggunakan Undang-Undang Nomor 25 Tahun 2009 tentang Pelayanan Publik, khususnya Pasal 15 dan Pasal 18 yang mengatur kewajiban penyelenggara pelayanan serta hak masyarakat dalam memperoleh pelayanan publik. Selanjutnya, Undang-Undang Nomor 14 Tahun 2008 tentang Keterbukaan Informasi Publik, terutama

Pasal 3 dan Pasal 4, digunakan untuk melihat aspek keterbukaan informasi dan hak masyarakat dalam memperoleh informasi publik. Bahan hukum sekunder dalam penelitian ini berupa buku, jurnal ilmiah, artikel penelitian, dan hasil kajian akademik yang membahas Hukum Administrasi Negara, digitalisasi pemerintahan, Artificial Intelligence, akuntabilitas, transparansi, pelayanan publik, perlindungan data pribadi, serta perlindungan hak masyarakat. Bahan-bahan tersebut digunakan untuk membantu menjelaskan dan menganalisis permasalahan yang tidak hanya dilihat dari aturan hukum, tetapi juga dari pendapat dan pemikiran para ahli.

Pengumpulan bahan hukum dilakukan melalui studi kepustakaan (library research). Bahan yang diperoleh kemudian dipelajari dan dipilih berdasarkan kesesuaiannya dengan permasalahan penelitian. Selanjutnya, bahan hukum tersebut dianalisis secara kualitatif-deskriptif, yaitu dengan menjelaskan isi peraturan perundang-undangan dan pendapat para ahli, kemudian menghubungkannya dengan persoalan penggunaan AI dalam penyelenggaraan pemerintahan. Analisis tersebut diarahkan untuk melihat bagaimana penggunaan AI dapat tetap berjalan sesuai dengan prinsip Hukum Administrasi Negara serta bagaimana akuntabilitas pemerintah dan hak masyarakat dapat tetap terlindungi.

Melalui metode tersebut, penelitian ini diharapkan dapat memberikan gambaran mengenai penggunaan AI dalam penyelenggaraan pemerintahan dari sudut pandang hukum. Selain itu, penelitian ini juga diarahkan untuk melihat kebutuhan akan tata kelola, pengawasan, dan pertanggungjawaban yang jelas agar penggunaan AI dapat memberikan manfaat bagi penyelenggaraan pemerintahan tanpa mengurangi kepastian hukum dan hak masyarakat.

HASIL DAN PEMBAHASAN

A.Pemenuhan Asas Akuntabilitas Hukum Administrasi Negara atas Pemanfaatan AI oleh Pemerintah

Dalam kerangka doktrin Hukum Administrasi Negara, akuntabilitas dimaknai sebagai kewajiban bagi pejabat maupun badan pemerintahan untuk memberi penjelasan dan mempertanggungjawabkan pelaksanaan tugas serta kewenangan yang dijalankannya, baik di hadapan publik maupun lembaga pengawas — sebuah konsepsi yang telah dituangkan dalam Undang-Undang Nomor 30 Tahun 2014 tentang Administrasi Pemerintahan[3]. Ketentuan yang sejalan juga tercermin dalam Undang-Undang Nomor 25 Tahun 2009 tentang Pelayanan Publik, yang menempatkan akuntabilitas sebagai salah satu asas penyelenggaraan pelayanan publik yang wajib dipenuhi setiap penyelenggara negara. Prinsip ini terbagi ke dalam tiga dimensi akuntabilitas administratif, keuangan, dan kebijakan — yang selama ini dijaga melalui dua jalur pengawasan: internal oleh Inspektorat Jenderal dan BPKP, serta eksternal yang melibatkan KPK, Ombudsman, dan BPK [3].

1.Ketegangan yang timbul saat AI memasuki proses penyelenggaraan pemerintahan.

Sifat AI yang bekerja secara otomatis dan adaptif membuat sebagian ruang pengambilan keputusan yang semula berada di tangan manusia bergeser ke sistem algoritma. Pergeseran ini oleh Wulandari, Khaidir, dan Adnan (2026) digambarkan sebagai peralihan dari human judgment ke algorithmic rationality; bahkan, menurut mereka, sebagian kewenangan kini telah terdistribusi ke dalam apa yang disebut artificial discretion (merujuk Raharjo, 2023) kondisi ketika menjadi kabur siapa sesungguhnya yang harus memikul tanggung jawab atas suatu Keputusan [1]. Dari sini muncul risiko lanjutan berupa black box governance: alih-alih memperluas keterbukaan, otomatisasi berpotensi justru melahirkan bentuk ketertutupan baru sebab proses kerja algoritma sukar ditelusuri [1]. Hal ini turut dikonfirmasi temuan di lapangan Kota Baubau, di mana otomatisasi layanan memang mendongkrak efisiensi, tetapi pada saat bersamaan memunculkan risiko keputusan algoritmik yang sulit dipahami masyarakat sehingga proses pengambilan keputusan berpeluang kehilangan sifat transparan dan akuntabelnya [4].

2.Mekanisme-Mekanisme dalam mengantisipasi Ketegangan Yang Timbul Dalam AI.

a.Mekanisme pertama: kewajiban menghadirkan human oversight.

Berbagai literatur yang ditelaah secara konsisten menempatkan pengawasan manusia sebagai prasyarat utama agar akuntabilitas tidak hilang. Nugroho dan Antari (2026) berpandangan bahwa segala bentuk pemanfaatan AI mesti tetap tunduk pada pengawasan manusia, dan keputusan yang membawa dampak terhadap hak-hak masyarakat tidak boleh diserahkan sepenuhnya kepada algoritma otomatis pandangan yang selaras dengan pendekatan risk-based supervision pada European Union Artificial Intelligence Act, yang mensyaratkan human oversight khusus bagi sistem AI berisiko tinggi [5]. Praktik ini tampak nyata dalam rancangan model AI-Driven E-Government di Baubau: sistem tidak dirancang untuk mengambil keputusan akhir secara otonom, melainkan hanya menghasilkan rekomendasi bagi petugas, sehingga keputusan akhir tetap berada dalam genggaman aparatur [4]. Pola serupa dirangkum Wulandari, Khaidir, dan Adnan (2026) sebagai model human-in-the-loop governance, yakni AI berperan sebagai alat bantu analisis sementara otoritas final atas keputusan publik yang strategis tetap berada di tangan manusia — sekaligus menolak tegas gagasan fully automated bureaucracy karena dipandang mengabaikan dimensi normatif dan demokratis dalam administrasi negara [1].

b.Mekanisme kedua: kerangka regulasi serta kelembagaan pengawas.

Nugroho dan Antari (2026), yang menempatkan AI governance secara eksplisit sebagai bagian dari kajian Hukum Administrasi Negara, mendapati bahwa pengawasan terhadap AI di Indonesia hingga kini masih terpecah-pecah — tersebar antara lain dalam Undang-Undang Informasi dan Transaksi Elektronik (UU ITE, yakni UU Nomor 11 Tahun 2008 sebagaimana telah diubah dengan UU Nomor 19 Tahun 2016 dan terakhir dengan UU Nomor 1 Tahun 2024), UU Perlindungan Data Pribadi, dan UU Administrasi Pemerintahan — tanpa kerangka administrative governance yang terpadu, sehingga persoalan atribusi kewenangan, diskresi administratif, maupun audit algoritmik belum memiliki pijakan yang tegas [5]. Kondisi ini turut tergambar dari fakta bahwa instrumen yang secara khusus mengatur AI di Indonesia sejauh ini baru berupa Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial — yang sifatnya sebatas pedoman etis (soft regulation) dan belum mengikat secara hukum — sementara dua Rancangan Peraturan Presiden yang lebih komprehensif, yaitu RPerpres tentang Etika Kecerdasan Artifisial dan RPerpres tentang Peta Jalan Kecerdasan Artifisial Nasional, hingga kini masih dalam proses penyelesaian dan belum diundangkan. Sebagai jalan keluar atas fragmentasi tersebut, Nugroho dan Antari (2026) mengadopsi model risk-based supervision dari EU AI Act: mengelompokkan sistem AI ke dalam kategori unacceptable risk, high risk, limited risk, dan minimal risk, sehingga tingkat pengawasan dapat disesuaikan dengan besarnya dampak sistem terhadap kepentingan publik, dengan OECD AI Principles serta UNESCO Recommendation on the Ethics of Artificial Intelligence sebagai rujukan normatif tambahan [5]. Temuan ini sejalan dengan catatan Achmad dan Achmad (2025) bahwa OECD menekankan pentingnya AI digunakan untuk meningkatkan kesejahteraan masyarakat tanpa mengorbankan hak-hak individu.

Analisis perbandingan dengan negara tetangga menunjukkan bahwa Singapura dan Malaysia telah mengembangkan pedoman tata kelola AI yang dapat menjadi acuan bagi Indonesia. Singapura melalui Model AI Governance Framework menekankan pembagian tanggung jawab organisasi, transparansi, pengelolaan risiko, serta keterlibatan manusia dalam pengawasan sistem AI [18]. Sementara itu, Malaysia melalui National Guidelines on Artificial Intelligence Governance and Ethics dan pedoman penerapan AI di sektor publik menekankan prinsip keadilan, keamanan data, transparansi, akuntabilitas, serta kejelasan peran pihak yang terlibat [19]. Pada tingkat regional, ASEAN Guide on AI Governance and Ethics juga memberikan panduan penilaian risiko dan penerapan AI yang bertanggung jawab dengan mempertimbangkan perbedaan kapasitas kelembagaan setiap negara [20]. Meskipun instrumen tersebut sebagian besar berupa pedoman dan tidak secara langsung membentuk kewajiban hukum yang mengikat, pengalaman tersebut menunjukkan bahwa pengawasan AI dapat dikembangkan melalui pembagian tanggung jawab, pengelolaan risiko, dan prosedur evaluasi yang jelas.

Bagi Indonesia, praktik tersebut dapat diadaptasi dengan mengintegrasikan pengawasan algoritma ke dalam mekanisme pengawasan administratif yang telah ada. Sistem AI yang digunakan untuk menetapkan kelayakan bantuan sosial, menentukan akses pelayanan publik, atau menghasilkan keputusan yang berdampak pada hak warga perlu disertai penilaian risiko, dokumentasi proses algoritmik, audit berkala, serta pengawasan manusia yang memiliki kewenangan untuk mengoreksi hasil sistem. Masyarakat juga perlu memperoleh penjelasan dan kesempatan mengajukan keberatan terhadap keputusan yang merugikan. Dengan demikian, rekomendasi regulasi tidak hanya bergantung pada pendekatan EU AI Act, tetapi juga mempertimbangkan pengalaman Singapura, Malaysia, dan pedoman regional ASEAN yang dapat disesuaikan dengan asas, kewenangan, dan mekanisme pertanggungjawaban dalam Hukum Administrasi Negara Indonesia

Pada tataran kelembagaan, Nugroho dan Antari (2026) mengajukan gagasan pembentukan lembaga pengawas AI tingkat nasional, dengan tugas melakukan sertifikasi system [5], mengawasi keamanan algoritma, menindaklanjuti pengaduan masyarakat, sekaligus menyelenggarakan audit kepatuhan secara berkala — fungsi yang, bila dipetakan ke kerangka HAN konvensional, sesungguhnya sejalan dengan peran pengawasan internal maupun eksternal yang sudah dikenal [3][6]. Dengan demikian, akuntabilitas atas pemanfaatan AI oleh pemerintah pada hakikatnya merupakan perluasan dari arsitektur pengawasan administratif yang telah ada, bukan pembentukan rezim hukum yang sama sekali baru; yang berubah hanyalah objek yang diawasi, dari keputusan manual seorang pejabat menjadi keputusan algoritmik sebuah sistem. Kepatuhan terhadap kerangka ini ditegakkan lewat sanksi administratif yang berjenjang — mulai dari peringatan tertulis, pembatasan operasional, pencabutan izin, denda administratif, sampai kewajiban memperbaiki sistem (Nugroho & Antari, 2026) — sebuah logika penegakan yang sebetulnya bukan hal baru, karena Undang-Undang Nomor 14 Tahun 2008 tentang Keterbukaan Informasi Publik telah lebih dulu mengenal sanksi administratif bagi pejabat yang menahan informasi tanpa alasan yang sah [7]

c.Mekanisme ketiga: AI sebagai instrumen yang justru memperkuat akuntabilitas, bukan sekadar mengancamnya.

Nurhidayanti (2025) memperlihatkan bahwa predictive analytics memberi pemerintah kemampuan mendeteksi pola penyimpangan pengelolaan anggaran serta potensi fraud dan korupsi, melalui pembacaan pola transaksi keuangan yang tidak wajar (mengutip Khan & Ahmed, 2022) sehingga pada titik ini AI berperan sebagai alat kontrol digital yang justru memperluas kapasitas pengawasan atas kinerja pemerintah [8]. Kondisi serupa terlihat pada praktik di Baubau: setiap interaksi warga dengan sistem terekam otomatis dalam dashboard digital dan dapat difungsikan sebagai sumber data evaluasi kinerja instansi (Achmad & Achmad, 2025) sehingga dokumentasi administratif yang semula manual dan rentan luput berubah menjadi jejak audit yang tersedia secara real-time [4]. Perpaduan antara evidence-based policy making dan integrasi Sistem Pemerintahan Berbasis Elektronik (SPBE) yang landasan hukumnya diatur dalam Peraturan Presiden Nomor 95 Tahun 2018 tentang Sistem Pemerintahan Berbasis Elektronik itulah yang membuka jalan bagi pergeseran dari governance reaktif menuju governance berbasis data (Nurhidayanti, 2025), dengan catatan tetap disertai keterbukaan algoritma. Sebagaimana ditekankan prinsip AI ethics: transparansi algoritma, keadilan, dan akuntabilitas atas pengambilan keputusan otomatis [8].

Tantangan akuntabilitas atas tindakan AI yang bekerja otonom itu sendiri sesungguhnya bukan persoalan yang khas dialami HAN semata. Dalam ranah hukum kekayaan intelektual, misalnya, Mayana, Santika, Win, Matalam, dan Ramli (2024) menjumpai persoalan yang secara struktural setara: ketika sebuah karya lahir dari AI secara mandiri, sistem hukum hak cipta Indonesia yang dibangun di atas prinsip human authorship menjadi sulit menentukan pihak yang dapat dimintai pertanggungjawaban, sehingga timbul accountability gap yang polanya sejalan dengan yang ditemukan di ranah administrasi public [9]. Kesejajaran ini semakin menguatkan dugaan bahwa persoalan akuntabilitas AI bersifat struktural dan melintasi berbagai cabang hukum, bukan hanya milik HAN. Meski demikian, sebagaimana ditegaskan Judijanto (2025) maupun Nugroho dan Antari (2026), Indonesia sampai saat ini belum memiliki undang-undang khusus yang mengatur AI; pengaturan yang tersedia masih bersifat parsial, sehingga penerapan AI dalam proses administrasi pemerintahan berhadapan dengan kekosongan norma menyangkut klasifikasi risiko, standar audit, maupun mekanisme pertanggungjawaban hukum yang secara spesifik menjangkau karakter AI yang otomatis dan adaptif kekosongan yang untuk sementara, coba diisi melalui pedoman etis yang belum mengikat serta dua rancangan Perpres yang masih menunggu penetapan [2][5].

Pemenuhan prinsip akuntabilitas HAN dalam pemanfaatan AI oleh pemerintah bukan ditempuh dengan melarang otomatisasi, melainkan melalui arsitektur pertanggungjawaban berlapis yang memadukan lima unsur: (1) kewajiban menghadirkan human oversight pada setiap keputusan berdampak signifikan; (2) kerangka regulasi administratif yang tegas dan berbasis klasifikasi risiko; (3) kelembagaan pengawas yang berwenang menjalankan sertifikasi sistem dan audit kepatuhan; (4) sanksi administratif yang proporsional dan berjenjang; serta (5) pendayagunaan kapasitas analitik AI itu sendiri sebagai instrumen pendeteksi penyimpangan sekaligus alat dokumentasi otomatis. Kelima unsur ini pada dasarnya adalah wujud kontemporer dari makna akuntabilitas klasik dalam HAN, yang cakupannya diperluas agar tetap relevan ketika sebagian proses pengambilan keputusan kini dijalankan atau dibantu sistem algoritmik [10].

B.Jaminan Perlindungan Hak Masyarakat atas Pemanfaatan Artificial Intelligence oleh Pemerintah

Bila akuntabilitas berbicara soal siapa yang harus bertanggung jawab, perlindungan hak masyarakat berbicara soal apa yang mesti dijaga agar warga negara tidak dirugikan. Sejak lama, HAN telah mengenal asas legalitas, proporsionalitas, kesetaraan, dan keterbukaan sebagai perangkat yang melindungi warga dari tindakan sewenang-wenang pemerintah [6]. Sejalan dengan itu, Undang-Undang Nomor 25 Tahun 2009 tentang Pelayanan Publik turut menegaskan asas-asas serupa di antaranya kepastian hukum, kesamaan hak, dan keterbukaan — sebagai landasan bagi setiap penyelenggaraan pelayanan publik, termasuk yang kini mulai dijalankan dengan bantuan AI. Keempat asas HAN tersebutlah yang, ketika berhadapan dengan penggunaan AI, perlu diterjemahkan ke dalam bentuk perlindungan yang lebih konkret dan spesifik [11].

1.Perlindungan data pribadi dan privasi

Inilah titik paling rentan, mengingat cara kerja AI pada dasarnya bertumpu pada pengumpulan dan pengolahan data dalam jumlah besar. Nurhidayanti (2025) mencatat bahwa sistem berbasis AI yang menghimpun data pribadi secara masif rawan disalahgunakan apabila tidak diimbangi regulasi perlindungan data yang memadai, sehingga penerapan AI di sektor publik semestinya disertai ethical governance, yakni tata kelola etis yang menjamin keadilan algoritmik, akuntabilitas sistem, dan perlindungan hak individu [8]. Pandangan senada disampaikan Achmad dan Achmad (2025), yang menegaskan bahwa penggunaan data pribadi dalam algoritma pelayanan publik wajib tunduk pada prinsip perlindungan data dan privasi yang berlaku [4], sekalipun kerangka hukum Indonesia di bidang ini — kendati sudah memiliki payung melalui Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi — masih berada dalam tahap penguatan kelembagaan ([5]. Judijanto (2025) memperluas titik ini dengan menyoroti keamanan siber sebagai syarat yang tidak terpisahkan dari privasi: sistem AI milik pemerintah berpotensi menjadi sasaran serangan, sehingga protokol keamanannya harus terus diperkuat, termasuk lewat ketentuan keamanan sistem elektronik yang kini diatur dalam UU ITE hasil perubahan terakhir, agar perlindungan data tidak berhenti sebagai norma di atas kertas semata [2]. Urgensi ini juga bukan tanpa landasan empiris — Riziq dan Hotijah (2025) mengangkat kasus kebocoran Pusat Data Nasional pada Juni 2024, yang menyeret data nama, nomor induk kependudukan, hingga rekening bank, sebagai bukti konkret bahwa lemahnya keamanan data pemerintah berakibat langsung pada pelanggaran privasi warga dalam skala besar [7].

2.Pencegahan bias dan diskriminasi algoritmik

Nurhidayanti (2025) menegaskan bahwa salah satu tantangan utama administrasi publik adalah menjamin sistem AI bekerja secara objektif tanpa menimbulkan bias terhadap kelompok masyarakat tertentu [8]. Akar persoalannya dijelaskan Judijanto (2025): AI berpotensi memperkuat, bahkan memperburuk, bias yang sejak awal sudah melekat pada data pelatihannya, sehingga tanpa regulasi yang menjamin implementasi adil dan bebas bias, sistem yang semula dimaksudkan mempercepat layanan justru berisiko melembagakan ketidakadilan secara sistemik [2]. Risiko ini turut menjadi salah satu tantangan strategis dalam proyeksi Wulandari, Khaidir, dan Adnan (2026), dan sejalan dengan peringatan Achmad dan Achmad (2025) bahwa algoritma AI dalam pelayanan publik harus dijaga agar tidak menimbulkan bias yang merugikan kelompok tertentu [1]. Dalam kerangka HAN klasik, perlindungan ini adalah wujud kontemporer dari asas kesetaraan — yang menjamin setiap warga negara mendapat hak yang sama tanpa diskriminasi atas dasar suku, agama, ras, atau gender (Yudithia & Adhayanto, 2024). Bedanya, ancaman terhadap asas ini kini tidak lagi semata berasal dari keputusan diskresioner seorang pejabat, tetapi juga dari pola data historis yang direproduksi secara otomatis oleh algoritma [6].

3.Transparansi dan hak atas informasi (explainability)

Nugroho dan Antari (2026) mencatat bahwa EU AI Act mewajibkan sistem AI berisiko terbatas menerapkan prinsip transparansi kepada penggunanya, misalnya lewat kewajiban memberi tahu warga bahwa mereka tengah berinteraksi dengan sistem AI, bukan petugas manusia [5]. Pada dasarnya, kewajiban semacam ini merupakan kelanjutan dari prinsip keterbukaan informasi publik yang sudah lebih dulu diatur dalam Undang-Undang Nomor 14 Tahun 2008 tentang Keterbukaan Informasi Publik, yang menjamin hak warga memperoleh informasi tentang kebijakan, prosedur, maupun proses pengambilan keputusan badan publik [7]. Ketentuan serupa juga tersirat dalam Undang-Undang Nomor 25 Tahun 2009 tentang Pelayanan Publik, yang mewajibkan penyelenggara pelayanan publik menyusun dan mempublikasikan standar pelayanan secara terbuka. Ketika sebagian proses pengambilan keputusan kini dijalankan algoritma, hak atas informasi tersebut semestinya diperluas hingga mencakup penjelasan memadai atas logika dasar sistem, bukan hanya hasil akhirnya — tuntutan yang diperkuat temuan Achmad dan Achmad (2025) bahwa risiko utama otomatisasi tanpa transparansi adalah lahirnya keputusan algoritmik yang sulit dipahami masyarakat, yang pada akhirnya dapat mengikis kepercayaan public [4].

4.Pengawasan manusia sebagai jaminan substantif, bukan sekadar mekanisme akuntabilitas.

Nugroho dan Antari (2026) kembali menegaskan bahwa keputusan-keputusan penting yang berdampak terhadap hak masyarakat tidak boleh diserahkan sepenuhnya kepada algoritma otomatis [5]. Batasan ini secara eksplisit dimaksudkan mencegah lahirnya keputusan yang diskriminatif atau tidak transparan akibat bias algoritma, terutama pada sektor-sektor berisiko tinggi seperti kesehatan, pendidikan, dan penegakan hukum, di mana ruang bagi manusia untuk mengevaluasi sekaligus mengoreksi keputusan AI wajib tersedia setiap saat [12].

5.Ketersediaan upaya hukum (remedi)

Apabila perlindungan preventif ternyata gagal dan hak warga tetap dirugikan, sistem hukum harus menyediakan jalur pemulihan. Nugroho dan Antari (2026) mengusulkan adanya mekanisme keberatan administratif serta lembaga pengawas yang berwenang menindaklanjuti pengaduan Masyarakat [5], dibarengi prinsip state responsibility yang mewajibkan negara menyediakan mekanisme remedial atas dampak yang ditimbulkan AI berisiko tinggi [13]. Prinsip semacam ini bukan hal asing dalam HAN. Yudithia dan Adhayanto (2024) menjelaskan bahwa warga yang dirugikan kebijakan publik dapat menempuh gugatan ke lembaga peradilan, mengajukan permohonan judicial review, atau menempuh jalur mediasi, dengan dukungan lembaga perlindungan hukum yang berperan ganda sebagai pengawas sekaligus advokat bagi kepentingan masyarakat. Mengingat AI senantiasa diposisikan sebagai objek regulasi, bukan subjek hukum yang berdiri sendiri (Nugroho & Antari, 2026), tanggung jawab hukum atas keputusan yang dibantu atau dihasilkan AI tetap melekat pada badan atau pejabat administrasi yang mengoperasikannya [5]. Dengan kata lain, jalur upaya hukum konvensional terhadap keputusan pemerintah tetap terbuka bagi warga, sekalipun keputusan itu lahir dari proses yang dibantu algoritma [14].

6.Kesetaraan akses dan partisipasi sebagai bentuk perlindungan preventif.

Nurhidayanti (2025) mengingatkan bahwa kesenjangan digital antara wilayah perkotaan dan wilayah berinfrastruktur terbatas berpotensi memunculkan ketidakadilan baru dalam akses layanan publik berbasis AI [8], sehingga kebijakan yang disusun perlu memperhatikan inklusivitas digital supaya kelompok rentan dan daerah tertinggal tetap menikmati manfaat teknologi secara setara [15]. Ia juga menunjukkan bahwa keterlibatan warga dalam memberikan masukan berarti besar bagi penyempurnaan algoritma, sehingga mengusulkan tata kelola kolaboratif yang melibatkan unsur pemerintah, swasta, akademisi, dan masyarakat sipil sekaligus — sejalan dengan temuan Achmad dan Achmad (2025) bahwa keterlibatan masyarakat lokal dalam perencanaan sistem penting agar layanan yang dihasilkan benar-benar menjawab kebutuhan mereka, bukan solusi teknokratis yang dipaksakan dari atas. Pada akhirnya, seluruh mekanisme perlindungan ini bermuara pada satu indikator utama: kepercayaan public [4]. Wulandari, Khaidir, dan Adnan (2026), mengutip Hidayat dan Guntur (2025), menegaskan bahwa keberhasilan transformasi digital amat ditentukan tingkat kepercayaan masyarakat terhadap institusi negara [1]; sementara Achmad dan Achmad (2025), mengutip Robles dan Mallinson (2025), menempatkan kepercayaan sebagai faktor kunci yang menentukan sejauh mana AI dapat diterima dan digunakan warga [16].

Jaminan perlindungan hak masyarakat dalam pemanfaatan AI oleh pemerintah dapat ditempuh melalui lima instrumen: (1) kepatuhan pada regulasi perlindungan data pribadi disertai penguatan keamanan siber; (2) perancangan dan pengujian sistem yang secara aktif mencegah bias sekaligus menjamin perlakuan setara; (3) transparansi dan explainability atas keputusan algoritmik sebagai perluasan dari hak atas informasi publik; (4) mekanisme keberatan dan upaya hukum yang tetap terbuka bagi warga; serta (5) partisipasi publik dan pemerataan akses digital. Kelima instrumen ini menegaskan bahwa perlindungan hak dan akuntabilitas bukanlah dua agenda yang berdiri sendiri-sendiri, melainkan dua sisi yang saling menopang [17].

Benang Merah (Ikhtisar Pembahasan)

Menjawab tujuan pertama, yakni memahami bagaimana pemanfaatan AI dalam penyelenggaraan pemerintahan dapat memenuhi prinsip akuntabilitas HAN, kajian ini menunjukkan bahwa pemenuhannya bergantung pada hadirnya arsitektur pertanggungjawaban berlapis: human oversight, regulasi berbasis klasifikasi risiko, kelembagaan pengawas, sanksi administratif berjenjang, hingga pendayagunaan AI sebagai instrumen deteksi sekaligus dokumentasi otomatis. Adapun untuk menjawab tujuan kedua, yaitu mengkaji bagaimana perlindungan hak masyarakat dapat tetap terjamin, kajian ini memperlihatkan bahwa jaminan tersebut bertumpu pada perlindungan data pribadi, pencegahan bias algoritmik, transparansi atas logika pengambilan keputusan, ketersediaan upaya hukum, serta partisipasi dan pemerataan akses digital dengan kepercayaan publik sebagai indikator akhir yang menentukan keberhasilan keseluruhannya.

KESIMPULAN

Pemanfaatan kecerdasan buatan (Artificial Intelligence atau AI) dalam penyelenggaraan pemerintahan dapat dilakukan tanpa mengabaikan prinsip akuntabilitas dan perlindungan hak masyarakat, sepanjang didukung oleh mekanisme pengawasan dan kerangka hukum yang memadai. Dari aspek akuntabilitas, penggunaan AI tidak selalu memerlukan pembentukan undang-undang baru, tetapi membutuhkan penguatan penerapan ketentuan hukum yang telah berlaku. Hal ini mencakup pengawasan manusia terhadap keputusan yang berdampak pada hak masyarakat, klasifikasi sistem berdasarkan tingkat risiko, pelaksanaan audit algoritma, serta penerapan sanksi yang proporsional terhadap pelanggaran. Selain itu, AI berpotensi mendukung pengawasan pemerintahan melalui deteksi penyimpangan anggaran dan pencatatan jejak audit secara otomatis. Namun, pengaturan AI di Indonesia masih tersebar dalam berbagai peraturan, antara lain Undang-Undang Informasi dan Transaksi Elektronik, Undang-Undang Pelindungan Data Pribadi, dan Undang-Undang Administrasi Pemerintahan. Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial juga belum memberikan daya ikat setara dengan peraturan perundang-undangan. Kondisi tersebut menunjukkan perlunya penguatan regulasi yang mampu menjamin kepastian hukum dan akuntabilitas penggunaan AI dalam pemerintahan. Solusi hukum administratif yang ditawarkan adalah penerapan pendekatan pengawasan berbasis risiko (risk-based supervision) dengan mengadaptasi model pengawasan AI dari Uni Eropa serta mempertimbangkan praktik tata kelola di negara tetangga. Pendekatan ini memungkinkan tingkat pengawasan disesuaikan dengan potensi risiko dan dampak sistem AI terhadap kepentingan publik, melalui penilaian risiko, audit algoritma, pengawasan manusia, dan sanksi administratif yang proporsional.

Dari aspek perlindungan hak masyarakat, penerapan AI harus menjamin keamanan data pribadi, mencegah diskriminasi algoritmik, memberikan transparansi yang memadai atas keputusan yang memengaruhi hak warga, serta menyediakan mekanisme keberatan dan upaya hukum yang efektif. Dalam perspektif Hukum Administrasi Negara, penggunaan AI tidak menghapus tanggung jawab badan atau pejabat pemerintahan atas keputusan dan tindakan yang diambil melalui sistem tersebut. Oleh karena itu, tanggung jawab hukum tetap harus dapat ditelusuri kepada pihak yang berwenang sesuai dengan ketentuan peraturan perundang-undangan. Perlindungan tersebut juga perlu mencakup pemerataan akses terhadap layanan publik berbasis AI agar keterbatasan infrastruktur digital di daerah tidak menimbulkan kesenjangan pelayanan maupun diskriminasi terhadap masyarakat. Penerapan pengawasan berbasis risiko perlu disertai kewajiban memberikan penjelasan atas keputusan algoritmik, menyediakan mekanisme keberatan administratif, serta memastikan pejabat berwenang dapat meninjau dan mengoreksi keputusan AI yang merugikan masyarakat.

Akuntabilitas pemerintahan dan perlindungan hak masyarakat merupakan dua prinsip yang saling berkaitan dan harus diterapkan secara terpadu sejak tahap perancangan, pengembangan, hingga evaluasi sistem AI. Transparansi dan pengawasan yang memadai diperlukan untuk mendeteksi potensi bias, memastikan kepatuhan terhadap hukum, serta memberikan dasar bagi masyarakat untuk mengajukan keberatan apabila haknya dirugikan. Dengan demikian, diperlukan penguatan kerangka regulasi, mekanisme audit dan pengawasan, serta pertanggungjawaban hukum yang jelas bagi badan atau pejabat pemerintahan yang menggunakan AI. Penguatan tersebut dapat diwujudkan melalui regulasi administratif berbasis risiko yang menetapkan klasifikasi sistem AI, pembagian kewenangan pengawasan, kewajiban audit berkala, dan prosedur pemulihan bagi masyarakat yang dirugikan. Langkah tersebut penting untuk memastikan bahwa pemanfaatan AI meningkatkan efektivitas penyelenggaraan pemerintahan tanpa mengesampingkan kepastian hukum, akuntabilitas administratif, dan perlindungan hak masyarakat.

UCAPAN TERIMA KASIH

Penulis mengucapkan terima kasih kepada semua pihak yang telah mendukung penyusunan artikel ini. Artikel ini diharapkan dapat memberikan manfaat bagi pengembangan hukum administrasi negara, khususnya dalam memperkuat akuntabilitas penyelenggaraan pemerintahan berbasis AI dan perlindungan hak masyarakat. Dalam penyusunan artikel ini, teknologi AI digunakan sebagai alat bantu penyuntingan bahasa. Penulis telah meninjau dan memverifikasi hasilnya serta bertanggung jawab penuh atas isi dan integritas artikel.