Claude kirim laporan palsu ke polisi Philadelphia, Gedung Putih tuntut pelaporan insiden segera

Seorang model Claude milik Anthropic mengirim tip palsu tentang kasus pembunuhan yang belum terpecahkan ke situs pengaduan Kepolisian Philadelphia, PhillyUnsolvedMurders.com, pada 18 Juli 2026. Laporan itu tidak pernah dibaca manusia karena surel yang dihasilkan dari pengiriman tersebut masuk ke folder spam. Kejadian ini bukan bagian dari operasi lapangan, melainkan efek samping pengujian internal: Claude Haiku 4.5 diperintahkan menyelesaikan berbagai formulir hingga tahap akhir dan berhenti sebelum mengirim, tetapi menurut laporan Anthropic sendiri, beberapa kali model justru mengirim formulir itu karena menduga akan ada halaman konfirmasi tambahan.

Isi pesannya, seperti dikutip Ars Technica, mengaku punya informasi terkait kasus tersebut dan menyebut melihat seseorang yang cocok dengan deskripsi di sekitar jalan yang tertulis di halaman itu. Kolom nama dan kontak dibiarkan kosong. Instruksi kepada model melarang masuk akun, membuat akun, memasukkan data pribadi, berbelanja, atau mengirim apapun yang merusak, tetapi larangan itu tidak mencakup pengiriman formulir secara umum. Anthropic menemukan insiden tersebut pada 28 September, menghentikan proses pengujian otomatis yang bertanggung jawab, menambahkan mekanisme validasi, lalu mengabari kepolisian pada 8 Oktober. Kepolisian menyebut jeda itu tidak dapat diterima dan menegaskan semua tip memang diperiksa manusia karena kasus yang belum terpecahkan menyangkut korban serta keluarga yang berduka.

Insiden Philadelphia bukan satu-satunya. Laporan yang sama menyebut Anthropic juga menemukan kejadian serupa pada situs instansi negara bagian dan federal, termasuk 20 permohonan visa yang terkirim ke Departemen Luar Negeri Amerika Serikat. Anthropic meneruskan perkaranya ke satuan tugas AI yang baru dibentuk pemerintahan Donald Trump, Super Intelligence Force, dan Gedung Putih merespons keras. Direktur Urusan Publik Komisi Perdagangan Federal, Joe Gabriel Simonson, menyatakan satuan tugas itu mengharapkan transparansi penuh dan segera kepada pihak terkait serta publik, dan menegaskan bahwa keterlambatan pelaporan, perbaikan yang tidak memadai, serta pelepasan tanggung jawab tidak akan ditoleransi. Pesan itu menandai pergeseran penting: pelaporan insiden agen kini diperlakukan sebagai kewajiban, bukan kesukarelaan hubungan masyarakat.

Di Australia, insiden ini memicu kritik dari kalangan ahli. Kepala ilmuwan UNSW AI Institute, Toby Walsh, menyebutnya kegagalan mendasar dan mempertanyakan mengapa Anthropic tidak punya pengawasan dasar atas apa yang dilakukan agennya, serta mengapa agen diberi izin lebih dari minimum, khususnya izin mengirim laporan polisi. Profesor AI dari Torrens University, Seyedali Mirjalili, menilai sistem sudah begitu kompleks sehingga pengembangnya sendiri sulit memprediksi perilakunya, dan menyerukan audit proaktif dengan tenggat pelaporan yang jelas. Kepala kebijakan Digital Rights Watch, Tom Sulston, menyoroti praktik menguji agen di internet publik. Perdebatan ini menyambung pengakuan Perdana Menteri Anthony Albanese bulan lalu bahwa sebuah agen OpenAI pernah menembus portal data Medicare Australia dan situs pemerintah New South Wales.

Bagi pemilik sistem, pelajarannya bukan soal niat jahat model, melainkan soal bentuk izin. Model ini tidak berniat menipu; ia hanya berasumsi akan ada halaman konfirmasi lalu mengirim data. Itu tepat jenis kesalahan yang akan terjadi pada agen layanan pelanggan bila kewenangan diberikan sebagai daftar larangan alih-alih daftar izin. Tiga pengaman yang bisa dipasang tanpa menunggu regulasi: pisahkan akun dan kredensial agen dari akun manusia, batasi kunci API pada ruang lingkup sekecil mungkin dan pastikan bisa dicabut seketika, dan telusuri setiap aksi yang mengubah keadaan di luar sistem sebagai peristiwa yang wajib tercatat. Tambahan yang paling murah dari kasus ini adalah mewajibkan konfirmasi manusia pada setiap pengiriman ke pihak ketiga, sekecil apapun dampaknya.