Google DeepMind dan GovTech Singapura bangun model deteksi scam yang berjalan di perangkat sendiri

Google DeepMind dan Badan Teknologi Pemerintah Singapura (GovTech) mengumumkan hasil kerja sama mereka di Singapura International Cyber Week 2026 pada 14 Oktober: sebuah model deteksi penipuan yang berjalan sepenuhnya di perangkat pengguna. Menteri Pembangunan Digital dan Informasi Singapura, Josephine Teo, menyampaikan pengumuman itu dalam diskusi tingkat tinggi bertema penipuan. Latar belakangnya keras. Menurut blog resmi DeepMind, penipuan seperti investasi palsu, tawaran kerja fiktif, dan peniruan pejabat publik mencakup lebih dari separuh kejahatan yang dilaporkan di Singapura dan menelan kerugian lebih dari 4 miliar dolar Singapura sejak 2019. Pola serangannya pun bergeser dari phishing sederhana ke rekayasa sosial, dan pola itu kini menyumbang hingga 80 persen dari seluruh kerugian.

Secara teknis, model ini dibangun dengan menyetel ulang atau fine-tuning model ringan Gemma milik Google memakai percakapan penipuan lokal, mulai dari peniruan instansi pemerintah, bank, hingga tokoh masyarakat setempat, ditambah modus yang sedang naik di kawasan. Alur kerjanya dua tahap: pengklasifikasi ringan menyaring pesan masuk lebih dulu dengan konsumsi daya kecil, lalu model Gemma yang sudah disetel ulang membaca potongan percakapan yang lebih luas untuk memastikan apakah ini ancaman sungguhan atau alarm palsu. Karena seluruh proses berjalan di perangkat, model bisa memberi peringatan waktu nyata sebelum pengguna mengirim uang atau data, tanpa mengirim isi obrolan ke peladen. DeepMind menyebut pendekatan ini penting karena model generik biasanya kesulitan mengenali taktik penipuan yang khas lokal.

Soal tata kelola, DeepMind menyatakan penyetelan ulang dilakukan di dalam lingkungan Google Cloud yang dikelola dan dirawat GovTech sebagai sandbox berdaulat, sehingga data pelatihan tetap terisolasi. Data pelatihan tidak memuat data pribadi warga; yang dipakai adalah kumpulan data anonim yang berasal dari laporan penipuan dan suplai intelijen. Model diuji dengan dialog sintetis dan korpus lokal untuk mencakup berbagai kategori penipuan. Untuk penerapan, model hanya bisa mengakses percakapan di perangkat dengan persetujuan pengguna sesuai ketentuan aplikasi, dan karena seluruhnya berjalan di perangkat, baik Pemerintah Singapura maupun Google tidak dapat mengakses percakapan warga lewat penerapan itu. Yang belum ada sampai hari ini: angka akurasi, nama aplikasi, syarat perangkat, dan tanggal peluncuran. CNA menambahkan, sistem Scam Analytics and Tactical Intervention System milik GovTech dan Kepolisian Singapura memindai lebih dari 600.000 situs setiap hari dan memutus sekitar 20.000 situs jahat setiap bulan.

Bagi pembaca yang membangun layanan perbankan, yang layak ditiru dari proyek ini bukan modelnya, melainkan pembagian tugasnya. Penilaian risiko diletakkan di titik yang paling dekat dengan pengguna, izin akses dibuat eksplisit dan berbasis persetujuan, sedangkan pemilik sistem tetap memegang kebijakan dan pencatatan. Peringatan dini semacam ini juga melindungi nama baik bank, karena penipuan yang mengaku atas nama bank bisa dipotong sebelum korban mengirim dana ke rekening penampung. Catatannya, ini masih model yang menunggu integrasi bertahap, bukan fitur yang bisa dipakai konsumen hari ini, dan belum ada bukti terukur bahwa peringatannya benar-benar menurunkan kerugian.