Anthropic ajukan rancangan UU keamanan AI, intervensi hanya untuk kerugian di atas 1 miliar dolar

Politico melaporkan pada 16 Oktober 2026 bahwa perwakilan Anthropic telah menampilkan draft undang-undang keamanan AI kepada sejumlah anggota Kongres. Reuters kemudian mengutip juru bicara perusahaan yang menyatakan isi draft itu mencerminkan kerangka kebijakan Advanced AI Framework yang dipublikasikan Anthropic sebelumnya. Langkah ini menandai pergeseran peran: perusahaan model tidak lagi hanya menanggapi usulan regulator, tetapi menyusun sendiri bahasa hukum yang ingin diberlakukan.

Inti rancangan itu adalah ambang yang sangat tinggi untuk intervensi pemerintah. Model hanya dapat diblokir atau dihentikan jika menimbulkan risiko yang dapat diperkirakan dan mendesak berupa kerugian lebih dari 1 miliar dolar AS, atau kematian serta cedera berat terhadap lebih dari 50 orang. Risiko itu harus berasal dari tiga sumber: pembuatan atau pelepasan senjata biologis, model yang menghindari kendali pengembangnya, dan serangan siber.

Mekanismenya juga dirancang sempit. Penilai independen mendaftar ke Departemen Perdagangan dan melakukan asesmen berkala terhadap laboratorium AI serta model frontier. Perusahaan AI boleh membayar penilai tersebut, dengan syarat pembayaran tidak dikaitkan pada hasil evaluasi. Jika penilai menemukan risiko yang masuk kategori, temuan wajib dilaporkan ke Departemen Perdagangan dalam 72 jam, dan hanya departemen itu yang dapat meminta hakim federal di Distrik Columbia menangguhkan peluncuran atau penggunaan model. Rancangan itu juga melarang lembaga federal lain menangguhkan pengembangan atau penerapan model secara sepihak.

Kewajiban lain menyangkut transparansi: pengembang wajib menyusun kerangka keselamatan, menerbitkan laporan transparansi untuk model baru, melindungi pelapor, dan melaporkan insiden keselamatan kritis. Sejumlah laporan menyebut draft ini juga hendak menggantikan sebagian aturan negara bagian soal pengungkapan risiko publik, audit pihak ketiga, dan pelaporan insiden. Bagi perusahaan yang beroperasi di banyak yurisdiksi, ketentuan itu sama pentingnya dengan ambang nominalnya.

Konteksnya menjelaskan mengapa ambang dibuat setinggi itu. Beberapa bulan sebelumnya, dua model paling canggih Anthropic sempat dikenai kontrol ekspor oleh pejabat federal melalui rangkaian panggilan telepon, langkah yang memicu kekhawatiran soal intervensi pemerintah yang terlalu lebar. Rancangan ini berusaha mengunci aturan main sebelum Kongres menyusun undang-undangnya sendiri. Bagi pasar kripto dan agen otonom, dampaknya tidak langsung tetapi nyata: model yang menggerakkan agen pembayaran akan tunduk pada rezim evaluasi, pelaporan insiden, dan batas intervensi yang bentuk akhirnya masih diperdebatkan.