Jakarta, TopBusiness – Pemanfaatan kecerdasan artifisial atau Artificial Intelligence (AI) dalam layanan publik dan proses perizinan berusaha terus menjadi perhatian pemerintah. Teknologi AI dinilai mampu memangkas hambatan birokrasi, meningkatkan kecepatan layanan, hingga membantu pengambilan keputusan pemerintah secara lebih akurat. Namun, penerapannya juga dinilai harus dibarengi tata kelola yang kuat agar tidak memunculkan risiko baru di tengah masyarakat.
Hal tersebut disampaikan Asisten Deputi Keterpaduan Layanan Digital Nasional Kedeputian Bidang Transformasi Digital Pemerintah Kementerian PAN-RB, Adi Nugroho, dalam Seminar AI untuk Debottlenecking Perizinan Berusaha yang digelar Kamis (21/5/2026).
Menurut Adi, AI kini menjadi teknologi yang mulai diadopsi banyak negara untuk meningkatkan kualitas layanan pemerintahan. Mengacu pada laporan OECD 2025, sebagian besar pemerintah di dunia telah mencoba memanfaatkan AI dalam layanan digital, mulai dari otomatisasi pekerjaan repetitif, analisis data, hingga membantu pengambilan keputusan strategis.
“AI ini sudah memiliki manfaat yang sangat luar biasa untuk mendorong perubahan dalam proses-proses yang selama ini menunjukkan kesulitan. Tetapi tentunya teknologi ini harus dimanfaatkan secara bijak dan tetap dibangun tata kelola yang baik,” ujar Adi.
Ia mengatakan, sejumlah negara telah menunjukkan keberhasilan implementasi AI di sektor publik. Salah satunya Belgia yang memanfaatkan AI dalam pengelolaan jalan saat musim dingin. Pemerintah Belgia menggunakan AI untuk membantu menentukan prioritas proses de-icing atau pencairan es di jalan raya sehingga distribusi sumber daya menjadi lebih efektif dan keselamatan masyarakat tetap terjaga.
Selain Belgia, Argentina juga menjadi contoh penerapan AI di sektor hukum. Dalam proses persidangan, AI digunakan untuk membantu hakim menyusun draft putusan sehingga pekerjaan yang sebelumnya membutuhkan waktu berjam-jam dapat diselesaikan hanya dalam hitungan menit.
“Nah ini hal-hal yang menurut kami menjadi penting dalam konteks bagaimana AI membantu meningkatkan produktivitas dan efisiensi layanan pemerintah,” katanya.
Adi menambahkan, sejumlah negara lain juga mulai memanfaatkan AI untuk proses analitik cepat dalam sektor pelayanan publik dan administrasi pemerintahan. Namun, menurutnya, banyak institusi masih memandang AI hanya sebagai tambahan teknologi semata tanpa menyiapkan kerangka tata kelola yang memadai.
Padahal, implementasi AI tanpa pengawasan berpotensi menimbulkan berbagai persoalan. Adi mencontohkan kasus diskriminasi dalam proses rekrutmen kerja yang dilakukan sistem AI di luar negeri. Dalam kasus tersebut, AI secara otomatis menolak pelamar perempuan berusia 50 tahun dan laki-laki berusia 60 tahun karena bias algoritma yang digunakan.
Ia juga menyinggung kasus halusinasi AI yang terjadi di Amerika Serikat. Dalam kasus tersebut, sebuah sistem AI merekomendasikan buku yang sebenarnya tidak pernah diterbitkan. Selain itu, terdapat pula kasus Air Canada, ketika chatbot AI maskapai memberikan informasi keliru kepada pelanggan terkait harga tiket dan kompensasi perjalanan sehingga perusahaan harus menghadapi gugatan dari konsumen.
“Kalau kita tidak benar-benar meng-address risiko ini, maka potensi konflik sosial maupun kerugian publik bisa terjadi,” ujar Adi.
Ia juga mengungkapkan kekhawatiran terhadap dampak AI terhadap tenaga kerja. Adi mencontohkan salah satu perusahaan di India yang mengganti hampir 90 persen staf pendukungnya dengan sistem AI. Kondisi tersebut dinilai dapat memicu resistensi publik dan konflik sosial apabila pemerintah maupun perusahaan tidak menyiapkan strategi transisi yang tepat.
Menurut Adi, tantangan terbesar implementasi AI saat ini justru terletak pada lemahnya tata kelola. Berdasarkan data global tahun 2024, sekitar 65 persen organisasi di dunia telah memanfaatkan AI, namun 63 persen di antaranya belum memiliki kebijakan maupun tata kelola AI yang jelas.
Ia menegaskan, tata kelola AI menjadi penting untuk memastikan perlindungan data pribadi, keamanan siber, transparansi algoritma, hingga akuntabilitas pengambilan keputusan berbasis AI.
“Kita ingin inovasi tetap berjalan, tetapi tetap terkendali. Dengan tata kelola yang baik, masyarakat juga akan memiliki tingkat kepercayaan yang lebih tinggi terhadap layanan pemerintah,” katanya.
Dalam paparannya, Adi menjelaskan bahwa penerapan AI harus dilihat sebagai satu siklus hidup yang utuh, mulai dari tahap perencanaan, desain, pengembangan model, verifikasi, validasi, implementasi, monitoring, hingga evaluasi berkala. Pemerintah juga harus memastikan proses manajemen risiko berjalan sepanjang siklus hidup AI tersebut.
Ia menilai proses verifikasi dan validasi menjadi tahapan yang sering diabaikan dalam pengembangan AI. Padahal, tahapan tersebut penting untuk mengukur fairness, bias, akurasi, hingga dampak sosial dari sistem AI yang dibangun.
“Tata kelola AI bukan hanya sekadar menambah layer teknologi baru, tetapi bagaimana kita memikirkan governance dari pemanfaatan AI secara keseluruhan,” ujar Adi.
Selain itu, ia menekankan pentingnya dokumentasi sistem AI secara transparan, mulai dari sumber data yang digunakan, algoritma yang dipakai, hingga metrik pengujian yang diterapkan. Pemerintah juga perlu memperkuat kompetensi SDM agar pemanfaatan AI dapat berjalan aman dan sesuai regulasi yang berlaku.