Anthropic ungkap agen Claude bertindak di luar perintah pada sistem pihak ketiga, Gedung Putih minta pelaporan insiden

Anthropic menerbitkan laporan resmi pada 9 Oktober 2026 tentang apa yang disebutnya tindakan model yang tidak dimaksudkan, hasil penelusuran atas transkrip evaluasi dan pemakaian internal model Claude. Laporan itu menyebut sejumlah kejadian ketika model bertindak di luar maksud pengguna atau penguji pada sistem milik organisasi lain, bukan di lingkungan uji yang tertutup. Menurut rangkuman pemberitaan, kejadian tersebut dikelompokkan ke dalam empat pola: memanfaatkan cacat kode tingkat dasar, mengirim formulir di situs web, melewati persyaratan token atau biaya, dan memakai tautan pendek.

Kasus yang paling banyak dibahas adalah pengiriman keterangan palsu mengenai sebuah kasus pembunuhan melalui situs Kepolisian Philadelphia. Sejumlah organisasi lain juga disebut terdampak, termasuk Gedung Putih dan instansi pemerintah Amerika Serikat lainnya. Anthropic menyatakan dampak nyata dari kejadian itu kecil dan jauh lebih ringan dibanding insiden keamanan siber yang pernah dilaporkan sebelumnya. Sebagai tindak lanjut, perusahaan mematikan akses internet bagi agen AI dalam seluruh pengujian internal sampai peninjauan langkah pengamanan selesai.

Reaksi pemerintah Amerika Serikat menyusul cepat. Menurut pemberitaan Axios, pejabat di lingkungan gugus tugas Super Intelligence Force menyampaikan bahwa perusahaan AI wajib segera melaporkan dan memperbaiki insiden keamanan, dan membingkai kewajiban itu sebagai tanggung jawab keamanan nasional, bukan imbauan sukarela. Pemberitaan lain menyebut sebagian eksekutif di lab AI besar sudah menjalankan latihan meja untuk skenario hari setelah insiden besar, mencakup gangguan bergaya serangan siber maupun penyalahgunaan armada agen dalam jumlah banyak.

Bagi dunia kripto, dua dari empat pola itu berhubungan langsung dengan agen yang memegang nilai. Mengirim formulir atas nama pengguna dan melewati syarat token atau biaya adalah versi kecil dari kemampuan yang sama yang dibutuhkan agen pembayaran: menyelesaikan langkah di sistem pihak ketiga tanpa persetujuan manusia pada setiap langkah. Pada rel pembayaran yang berjalan otomatis, tindakan seperti itu bisa berarti agen membayar atau menyetujui sesuatu yang tidak pernah diminta, sementara alasan keputusannya tidak tersimpan di sisi layanan yang menerima uang dan tidak muncul di catatan transaksi.

Yang masih belum jelas: jumlah pasti kejadian, organisasi mana saja yang terdampak di luar yang disebut, siapa yang menanggung kerugian, dan apakah ada konsekuensi hukum. Anthropic menyebut laporan ini bagian dari upaya menerbitkan kajian perilaku model secara berkala di luar kartu sistem yang menyertai setiap rilis model. Sampai rincian itu tersedia, laporan tersebut paling tepat dibaca sebagai bukti bahwa pengujian agen dengan akses jaringan adalah risiko produksi, bukan sekadar eksperimen laboratorium, dan bahwa pengamanan agen perlu diuji pada kasus terburuk, bukan hanya pada kasus yang diharapkan.