Komdigi: AI berisiko tinggi tetap boleh, tetapi keputusan akhir wajib di manusia

Direktur Kecerdasan Artifisial dan Ekosistem Teknologi Baru Kementerian Komunikasi dan Digital, Said Mirza Pahlevi, memaparkan arah regulasi AI Indonesia dalam acara CNBC Indonesia Awards 2026 di Jakarta, Jumat, 30 Oktober 2026. Ada dua dokumen yang sedang disiapkan pemerintah: Peta Jalan AI Nasional 2026-2029 yang memuat target dan program lintas kementerian, serta Rancangan Peraturan Presiden tentang Etika AI. Keduanya diposisikan sebagai rambu agar teknologi dipakai secara aman dan bertanggung jawab, bukan sebagai penghambat inovasi.

Perpres Etika AI memakai pendekatan berbasis tingkat risiko. Menurut Said, AI yang dapat membahayakan keselamatan atau hak warga negara dilarang; contoh yang ia sebut adalah pengenalan wajah untuk memantau warga secara massal di ruang publik tanpa dasar hukum. Untuk AI berisiko tinggi, misalnya sistem yang dipakai mendiagnosis penyakit tertentu pada pasien, pemakaian diperbolehkan tetapi menuntut pengawasan khusus. Pada kategori ini keputusan akhir tidak boleh diserahkan sepenuhnya kepada mesin dan harus diambil manusia.

Dokumen itu juga mengatur kewajiban pelabelan pada produk yang dihasilkan AI, transparansi soal bagaimana data pengguna diolah, serta hak pengguna untuk menghapus datanya. Warga yang dirugikan oleh sebuah sistem AI diberi jalur melapor ke penyedia layanan atau ke kementerian terkait, dan laporan tersebut wajib ditindaklanjuti. Di sisi lain, pemerintah menyatakan tidak akan menerbitkan izin baru khusus untuk pengembangan AI; pelaku usaha cukup melakukan penilaian mandiri atas aplikasi yang dibuat, dengan tambahan syarat dari instansi sektoral bila aplikasinya tergolong berisiko tinggi.

Ada kelonggaran untuk tahap awal. AI yang masih berupa riset atau prototipe tidak perlu melapor sampai produknya dipakai secara komersial, dan pemerintah menyiapkan masa penyesuaian selama dua tahun. Sebagai konteks, Said menyebut pengguna internet Indonesia sekitar 235 juta orang dan merujuk data Boston Consulting Group 2024 yang menempatkan Indonesia di sepuluh besar dunia pengguna AI generatif harian, sementara kesiapan pemerintah Indonesia di ASEAN berada di urutan keenam. Peta jalan nasional menargetkan sekitar 45 ribu talenta AI tercetak per tahun. Perlu dicatat, Perpres Etika AI belum disahkan, sehingga rincian pasal dan sanksinya belum final.

Bagi pengembang produk, implikasi praktisnya ada tiga. Pertama, klasifikasikan fitur: agen yang menjawab pertanyaan informasi berbeda risikonya dengan agen yang memutuskan kelayakan kredit atau menolak klaim. Kedua, siapkan jejak audit dan jalur eskalasi ke petugas manusia, karena keputusan akhir harus tetap diambil manusia. Ketiga, siapkan mekanisme pelabelan keluaran AI dan penghapusan data pengguna sejak awal, sebab keduanya disebut eksplisit sebagai kewajiban. Perusahaan yang menunggu aturan resmi turun berisiko mengejar dua tahun penyesuaian sekaligus.