PENDAHULUAN

Akselerasi transformasi digital dalam tata kelola pemerintahan Indonesia telah memasuki babak baru yang sangat strategis. Di bawah kepemimpinan Presiden Prabowo Subianto, fokus efisiensi dan integrasi layanan publik diwujudkan melalui penguatan ekosistem Government Technology (GovTech) Indonesia yang dikenal sebagai INA Digital sebagaimana telah dipayungi oleh Peraturan Presiden Nomor 82 Tahun 2023. Konsolidasi layanan digital nasional ini diarahkan untuk menyatukan berbagai portofolio pelayanan publik yang selama ini terfragmentasi di berbagai instansi pemerintah, dengan prioritas utama pada pemutakhiran data kependudukan dan efisiensi penyaluran Bantuan Sosial (Bansos). Pemanfaatan teknologi Artificial Intelligence (AI) dan Machine Learning dalam skema GovTech digadang-gadang sebagai instrumen kunci untuk menekan dua persoalan klasik dalam distribusi bantuan sosial, yakni inclusion error (terdaftarnya kelompok yang tidak layak menerima) dan exclusion error (terlewatnya masyarakat miskin yang sebetulnya berhak).

Meskipun penerapan otomatisasi berbasis data (data-driven automation) menawarkan presisi analisis berskala besar dan pemangkasan birokrasi, pengalihan fungsi analisis kriteria hingga penetapan status hak warga dari pejabat publik (human agent) kepada algoritma (algorithmic agent) menimbulkan persoalan hukum yang mendasar. Dalam doktrin Hukum Administrasi Negara (HAN), setiap tindakan pemerintah yang menetapkan status, hak, atau kewajiban hukum seseorang merupakan bentuk tindakan hukum administrasi (rechtshandelingen) yang melahirkan produk berupa Keputusan Tata Usaha Negara (KTUN). Ketika proses penetapan atau pencoretan nama penerima bansos dilakukan secara otomatis oleh sistem tanpa intervensi manusia (Automated Decision-Making / ADM), timbul keraguan serius terkait legitimasi kewenangan, keabsahan prosedur, dan mekanisme pertanggungjawaban hukum (legal liability) pejabat publik.

Sebagaimana dicatat dalam studi Perhimpunan Hak Asasi Manusia Indonesia (PERHAKI) (2025), pengoperasian sistem otomatisasi pada pelayanan sosial berisiko tinggi mengabaikan hak-hak esensial warga negara apabila algoritma bekerja secara tidak transparan (black box) dan tidak menyediakan ruang keberatan yang memadai bagi masyarakat terdampak [1]. Kerentanan ini makin diperparah oleh fakta bahwa algoritma AI bekerja berdasarkan pola data historis; apabila data kependudukan awal mengalami bias, keterlambatan pemutakhiran, atau kesalahan input, maka sistem otomatis secara konsisten akan mereproduksi Keputusan Tata Usaha Negara yang cacat secara hukum.

Safa et al. (2026) menegaskan bahwa dalam kerangka negara hukum (rechtsstaat), transformasi digital melalui Sistem Pemerintahan Berbasis Elektronik (SPBE) wajib tunduk pada prinsip akuntabilitas digital, keterbukaan, serta keberadaan pengawasan manusia (human oversight) [2]. Pemanfaatan AI tidak boleh mereduksi prinsip-prinsip dasar Asas-Asas Umum Pemerintahan yang Baik (AUPB), khususnya Asas Kecermatan dan Asas Keterbukaan. Ketika warga negara yang berhak atas bantuan sosial mendadak kehilangan haknya akibat kalkulasi sistem tanpa adanya penjelasan teknis yang rasional (explainability gap), pemerintah dapat dikategorikan telah melanggar larangan bertindak sewenang-wenang (willekeur) dan pengabaian kewajiban memberikan alasan yang cukup (motiveringsbeginsel).

Di sisi lain, kerangka hukum positif Indonesia saat ini memperlihatkan adanya celah normatif (legal gap). Undang-Undang Nomor 30 Tahun 2014 tentang Administrasi Pemerintahan dibentuk dengan asumsi bahwa keputusan dibuat secara manual oleh pejabat publik berbasis kertas atau dokumen fisik [3]. Meskipun Undang-Undang Nomor 27 Tahun 2022 tentang Perlindungan Data Pribadi (UU PDP) telah mengakui hak subjek data untuk menolak keputusan yang diambil semata-mata berdasarkan pemrosesan otomatis (Automated Decision-Making), regulasi ini belum dilengkapi dengan aturan pelaksana di tingkat hukum administrasi yang mengatur tata cara audit algoritma (algorithmic audit) maupun skema sanggah yang dapat diuji di Pengadilan Tata Usaha Negara (PTUN) [4].

Oleh karena itu, kajian mengenai kesiapan Hukum Administrasi Negara dalam memayungi dan mengatur keterlibatan AI pada ekosistem GovTech untuk penyaluran bansos menjadi sangat krusial. Penelitian ini diperlukan untuk menyusun konstruksi hukum yang mampu menyeimbangkan antara efisiensi tata kelola digital era pemerintahan baru dengan jaminan perlindungan hukum dan hak konstitusional warga negara [5].

METODE

Penelitian ini menggunakan jenis penelitian hukum normatif (doctrinal legal research) yang berfokus pada studi pustaka dan analisis terhadap berbagai bahan hukum. Pendekatan yuridis normatif dilakukan dengan mengkaji dan menelaah peraturan perundang-undangan serta asas-asas hukum yang berkaitan dengan Hukum Administrasi Negara, perlindungan data pribadi, tata kelola SPBE/GovTech, serta penerapan kewenangan pejabat pemerintahan di Indonesia [6]. Pendekatan ini secara khusus diarahkan untuk menguji legitimasi yuridis terhadap penetapan otomatis (Automated Decision-Making) berbasis kecerdasan buatan (AI) serta menganalisis keselarasan tindakan digital pemerintah dengan Asas-Asas Umum Pemerintahan yang Baik (AUPB) [7].

HASIL DAN PEMBAHASAN

Dalam doktrin klasik Hukum Administrasi Negara, Keputusan Tata Usaha Negara (KTUN) difahami sebagai suatu penetapan tertulis yang bersifat konkrit, individual, dan final, yang dikeluarkan oleh Badan atau Pejabat Tata Usaha Negara untuk menimbulkan akibat hukum bagi seseorang atau badan hukum perdata sebagaimana diatur dalam Pasal 1 angka 9 Undang-Undang Nomor 30 Tahun 2014 tentang Administrasi Pemerintahan. Unsur mendasar dari definisi konvensional ini adalah adanya unsur karsa, kehendak manusia (menselijke wil), serta diskresi (freies ermessen) dari pejabat publik yang berwenang. Namun, integrasi teknologi Artificial Intelligence (AI) dan Machine Learning dalam portal GovTech Indonesia (INA Digital) sebagaimana diamanatkan oleh Peraturan Presiden Nomor 82 Tahun 2023 telah menggeser paradigma pembuatan keputusan public [8]. Penentuan hak bantuan sosial tidak lagi lahir dari penandatanganan berkas fisik atau penilaian deskriptif oleh petugas lapangan melainkan hasil kalkulasi komputasional dari algoritma pencocokan data yang memproses jutaan variabel kependudukan dan kepemilikan aset secara otomatis. Fenomena ini melahirkan KTUN Otomatis yang secara yuridis tetap memenuhi seluruh kualifikasi KTUN karena bersifat konkrit dalam hal penetapan hak atas dana bantuan sosial, bersifat individual karena menyasar subjek hukum tertentu berdasarkan Nomor Induk Kependudukan (NIK) dan Single ID, serta bersifat final karena langsung menimbulkan akibat hukum berupa timbulnya hak atas bantuan atau hilangnya hak mendapatkan manfaat jaminan sosial.

Persoalan yuridis mendasar yang timbul dari KTUN Otomatis adalah validitas sumber kewenangan bertindak, mengingat dalam Hukum Administrasi Negara keabsahan tindakan pemerintah harus berlandaskan pada atribusi, delegasi, atau mandat sesuai asas legalitas. Sebagaimana dijelaskan oleh Purnamasari (2025) serta Januru et al. (2025), kecerdasan buatan bukanlah subjek hukum (rechtspersoon) dan tidak memiliki kapasitas kewenangan (rechtbevoegdheid), sehingga algoritma tidak memiliki kehendak bebas maupun kapasitas untuk dibebani tanggung jawab hukum dan secara dogmatis dikualifikasikan sebagai instrumen pembantu atau agen elektronik [9][10]. Pengoperasian AI dalam platform GovTech tanpa pendelegasian penetapan hukum yang jelas dari Pejabat TUN kepada sistem pemrosesan data otomatis dapat menimbulkan kekosongan legitimasi, sehingga keputusan yang diterbitkan sepenuhnya oleh mesin tanpa ada pengesahan atau persetujuan dari Pejabat TUN yang berwenang rentan digugat atas dasar cacat wewenang (onbevoegdheid). Selain itu, pengoperasian agen elektronik oleh lembaga pemerintah tunduk pada prinsip tanggung jawab mutlak (absolute liability), sebagaimana ditekankan oleh Astar & Budi (2022) serta Wahyurudhanto (2020), di mana Pejabat TUN yang memegang kewenangan tetap memikul tanggung jawab hukum penuh atas setiap produk hukum yang dihasilkan oleh sistem otomatisnya tanpa bisa mengalihkan tanggung jawab kepada penyedia perangkat lunak atau mengklaim kesalahan teknis system [11][12].

Penerapan AI pada sistem bantuan sosial GovTech juga berpotensi mencederai asas-asas material Hukum Administrasi Negara sebagaimana dikodifikasikan dalam Pasal 10 Undang-Undang Nomor 30 Tahun 2014, khususnya Asas Keterbukaan, Asas Kecermatan, dan larangan menyalahgunakan kewenangan. Karakteristik model pembelajaran mesin tingkat lanjut yang sering kali bersifat black box memicu timbulnya explainability gap atau ketidakmampuan menjelaskan garis logika kalkulasi, sehingga pemberitahuan penolakan bantuan sosial tanpa rincian alasan logis melanggar Asas Kewajiban Memberikan Alasan (motiveringsbeginsel) dan membuat keputusan otomatis tersebut tergolong sebagai tindakan yang sewenang-wenang (willekeur). Dari sudut pandang Asas Kecermatan, sebagaimana disimpulkan oleh Pratiwi & Rahmawati (2024), efektivitas pengintegrasian Single ID ke dalam Big Data pemerintah sangat bergantung pada validitas dan akurasi dataset awal [13]. Tingginya tingkat ketidakakuratan data dan keterlambatan pembaharuan status kependudukan di lapangan menyebabkan sistem AI yang bekerja berdasarkan konsep Garbage In, Garbage Out secara konsisten menghasilkan KTUN yang cacat substansi karena tidak melibatkan verifikasi faktual atau penilaian manusia. Lebih lanjut, penggunaan algoritma yang diprogram dengan skema pemangkasan anggaran atau pencapaian kuota otomatis tanpa perubahan regulasi yang sah dapat dikategorikan sebagai penyalahgunakan kewenangan (detournement de pouvoir).

Meskipun Undang-Undang Nomor 27 Tahun 2022 tentang Perlindungan Data Pribadi pada Pasal 50 telah memberikan hak kepada subjek data untuk mengajukan keberatan atas keputusan yang didasarkan semata-mata pada pemrosesan secara otomatis, penerapannya dalam Hukum Administrasi Negara masih menghadapi hambatan prosedural yang signifikan [4]. Sebagaimana dianalisis oleh Suryani & Utomo (2024) serta Safa et al. (2026), kerangka pengujian sengketa di Pengadilan Tata Usaha Negara saat ini belum siap menangani kasus gugatan berbasis kesalahan algoritma karena adanya ketidakjelasan mekanisme keberatan administrasi, ketimpangan informasi di mana warga miskin tidak memiliki akses terhadap kode sumber atau model algoritma pemerintah, serta beratnya beban pembuktian bagi penggugat [2][14]. Tanpa adanya kewajiban pembuktian berupa audit algoritma (algorithmic auditing) yang independen, hak subjek data atas perlindungan hukum dan hak atas penjelasan (right to explanation) menjadi bersifat ilusif dalam praktik peradilan [15]. Contoh nyata yang relevan dapat dilihat pada kasus Robodebt di Australia, yaitu skema penagihan utang bantuan sosial yang diterapkan melalui proses otomatis dengan menggunakan metode perataan pendapatan tahunan untuk menghitung dugaan kelebihan pembayaran bantuan. Metode tersebut menghasilkan tagihan yang tidak akurat dan dinyatakan melanggar hukum oleh pengadilan pada 2019, kemudian menjadi objek penyelidikan Komisi Kerajaan yang laporannya diterbitkan pada 2023 [18]. Kasus ini memperlihatkan bahwa otomatisasi keputusan administratif tidak menghapus tanggung jawab pemerintah atas legalitas dan ketepatan hasil yang dikeluarkan sistem. Ketika sistem menghasilkan keputusan yang bertentangan dengan ketentuan perundang-undangan, tanggung jawab tidak dapat semata-mata dibebankan pada teknologi, tetapi harus ditelusuri pada instansi dan pejabat yang merancang, menyetujui, menjalankan, serta mengawasi kebijakan tersebut. Meskipun kasus Robodebt bukan penerapan AI yang identik dengan sistem GovTech Indonesia, kasus ini memberikan pembelajaran komparatif mengenai pentingnya dasar kewenangan yang sah, verifikasi manusia, transparansi perhitungan, dan mekanisme pemulihan hak warga dalam penerapan keputusan administratif otomatis.

Guna menjembatani jurang antara efisiensi GovTech berbasis AI dan jaminan perlindungan hukum bagi warga negara, diperlukan pembaharuan kerangka normatif Hukum Administrasi Negara yang komprehensif melalui pelembagaan prinsip human-in-the-loop dan pembentukan Peraturan Pemerintah tentang Akuntabilitas Algoritma Pemerintahan [16]. Regulasi ini harus secara tegas melarang penerbitan KTUN yang berdampak pada hak dasar warga negara secara terautomasi penuh, dengan menempatkan sistem AI GovTech sebatas instrumen pendukung rekomendasi sementara eksekusi akhir tetap berada pada verifikasi dan persetujuan Pejabat TUN terotorisasi. Selain itu, Peraturan Pemerintah tersebut perlu memuat kewajiban Algorithmic Impact Assessment sebelum sistem diluncurkan, jaminan penyediaan risalah penjelasan atas variabel pertimbangan keputusan, serta penyediaan mekanisme sanggah digital terpadu sebelum keputusan pencoretan bantuan sosial berlaku mengikat secara hukum, sehingga transformasi digital tetap berada dalam koridor negara hukum (rechtsstaat) dan Asas-Asas Umum Pemerintahan yang Baik [17].

KESIMPULAN

Penerapan GovTech berbasis AI untuk penyaluran Bantuan Sosial di Indonesia menandai transformasi besar dalam tata kelola pemerintahan, namun Hukum Administrasi Negara saat ini berada dalam kondisi belum sepenuhnya siap (legal vacuum) untuk mengawal keputusan otomatis (Automated Decision-Making). Regulasi eksistensi seperti Undang-Undang Nomor 30 Tahun 2014 dan Undang-Undang Nomor 27 Tahun 2022 belum memuat aturan pelaksana yang mengatur audit algoritma secara independen, kewajiban penyediaan penjelasan logis (explainability), serta skema sanggah digital yang responsif bagi masyarakat miskin terdampak. Untuk memastikan tindakan GovTech berbasis AI tetap berada dalam koridor negara hukum (rechtsstaat) dan Asas-Asas Umum Pemerintahan yang Baik (AUPB), pemerintah perlu menyusun Peraturan Pemerintah tentang Akuntabilitas Algoritma Pemerintahan yang mengintegrasikan prinsip human-in-the-loop, jaminan hak atas penjelasan, serta mekanisme sanggah yang mudah diakses oleh warga sebelum suatu keputusan otomatis mengikat secara hukum. Dalam proses pembentukannya, Kementerian Pendayagunaan Aparatur Negara dan Reformasi Birokrasi (Kementerian PANRB) dapat diusulkan sebagai koordinator perumusan kebijakan karena berkaitan dengan reformasi birokrasi dan tata kelola pemerintahan digital, dengan melibatkan Kementerian Hukum dalam harmonisasi regulasi, Kementerian Komunikasi dan Digital dalam aspek tata kelola teknologi digital, serta Kementerian Sosial dalam penerapan kebijakan penyaluran bantuan sosial. Pengawasan dapat melibatkan Badan Pengawasan Keuangan dan Pembangunan (BPKP) sesuai kewenangannya dalam pengawasan intern pemerintah serta Ombudsman Republik Indonesia dalam pengawasan maladministrasi pelayanan publik.

Pengalaman kasus Robodebt di Australia menunjukkan bahwa otomatisasi proses administrasi bantuan sosial tanpa metode perhitungan yang akurat dan pengawasan yang memadai dapat menimbulkan keputusan keliru serta merugikan masyarakat. Pembelajaran tersebut menegaskan bahwa efisiensi teknologi tidak dapat menggantikan kewajiban pemerintah untuk menjamin legalitas keputusan, memeriksa keakuratan data, dan menyediakan mekanisme koreksi serta pemulihan hak warga. Oleh karena itu, pejabat publik yang berwenang harus tetap bertanggung jawab atas pengawasan dan pengesahan keputusan yang dihasilkan melalui sistem AI sesuai dengan kewenangan dan ketentuan hukum yang berlaku. Dengan demikian, keberhasilan transformasi GovTech tidak hanya diukur dari kecepatan penyaluran bantuan sosial, tetapi juga dari kepastian hukum, akuntabilitas pemerintahan, dan perlindungan hak masyarakat.

Selain itu, pemerintah perlu mewajibkan pelaksanaan Algorithmic Impact Assessment sebelum sistem AI diterapkan dalam penetapan penerima bantuan sosial. Penilaian ini diperlukan untuk mengidentifikasi risiko kesalahan data, bias algoritma, diskriminasi, serta potensi pelanggaran hak masyarakat, sekaligus menetapkan langkah mitigasi dan mekanisme pengawasan yang dapat dievaluasi secara berkala. Kewajiban tersebut perlu diintegrasikan dengan audit algoritma independen, keterlibatan pejabat berwenang dalam pengambilan keputusan, dan mekanisme keberatan yang efektif agar penerapan GovTech berbasis AI berlangsung secara transparan, akuntabel, dan sesuai dengan prinsip negara hukum.

UCAPAN TERIMA KASIH

Penulis mengucapkan terima kasih kepada semua pihak yang telah memberikan dukungan, masukan, dan bantuan dalam proses penelitian hingga penyusunan artikel ini. Penulis berharap artikel ini dapat memberikan manfaat bagi pengembangan kajian Hukum Administrasi Negara, khususnya dalam pengaturan GovTech berbasis AI untuk penyaluran bantuan sosial di Indonesia. Dalam penyusunan artikel ini, penulis berkomitmen untuk mematuhi kebijakan penggunaan kecerdasan buatan (AI), menjaga integritas akademik, memastikan keakuratan informasi, serta bertanggung jawab penuh atas isi dan orisinalitas karya ilmiah yang dipublikasikan.