DeepMind dan Singapura bikin pendeteksi penipuan yang jalan di ponsel, bukan di cloud

Deteksi penipuan biasanya berarti mengirim pesan ke server, dan itulah yang dikhawatirkan orang ketika pesannya adalah percakapan pribadi. Google DeepMind dan GovTech Singapura memilih jalan lain lewat model Gemma hasil fine-tuning yang berjalan di ponsel dan mengawasi pola manipulasi khas rekayasa sosial: seseorang menyamar sebagai bank, kantor pemerintah, atau tokoh lokal, atau mendorong skema investasi dan lowongan kerja palsu yang sedang marak. Saat mendeteksi manipulasi, model memunculkan peringatan agar pengguna berhenti sejenak sebelum mengirim uang atau informasi sensitif.

Detail teknis yang layak ditiru adalah desain dua tahap untuk menghemat baterai. Sebuah classifier ringan menyaring pesan masuk lebih dulu, dan hanya ketika ada yang mencurigakan model Gemma yang lebih besar membaca potongan percakapan yang lebih luas untuk memastikan atau membatalkan peringatan. Karena semuanya terjadi secara lokal, baik Google maupun pemerintah tidak bisa melihat isi percakapan, dan model hanya berjalan pada percakapan yang disetujui pengguna sesuai ketentuan tiap aplikasi. Fine-tuning dilakukan di lingkungan cloud terkelola GovTech, dilatih dari laporan penipuan yang dianonimkan tanpa data pribadi, dan diuji dengan dialog sintetis.

Konteksnya menjelaskan kenapa upaya ini serius. Penipuan seperti investasi bodong, lowongan palsu, dan penyamaran pejabat mencakup lebih dari separuh kejahatan yang dilaporkan di Singapura, dengan kerugian di atas S$4 miliar sejak 2019, dan rekayasa sosial menyumbang hingga 80% dari kerugian itu. Blog tersebut tidak memberi angka akurasi, dan justru itu yang perlu diperhatikan.

Kenapa ini penting

Kalau Anda membangun fitur AI konsumen yang menyentuh pesan pribadi, ini contoh konkret menjaga data sensitif tetap di perangkat sambil tetap menjalankan model yang mumpuni. Absennya angka akurasi berarti ujian sebenarnya, seberapa sering model salah alarm atau justru melewatkan penipuan asli, masih belum terbukti.