Dewan Kota New York Panggil SpaceXAI, Siapkan Aturan Tombol Mati untuk AI

Ketua Dewan Kota New York, Julie Menin, mengeluarkan subpoena kepada SpaceXAI pada Senin, 28 September 2026, untuk memaksa perusahaan itu mengirim perwakilan ke sidang keamanan AI pada 5 Oktober. Menurut Washington Examiner, ini langkah langka karena SpaceXAI adalah satu-satunya perusahaan AI besar yang tidak menanggapi undangan dewan. Empat nama lain, yaitu OpenAI, Anthropic, Google, dan Meta, menyatakan akan hadir setelah dewan menetapkan tenggat tanggapan 25 September dan menyatakan haknya memakai subpoena bila perlu. Sidang itu digelar sebagai Committee of the Whole dengan seluruh 51 anggota dewan hadir.

Lingkup penyelidikan yang disampaikan dewan mencakup pertanyaan apakah risiko yang tumbuh cepat terhadap keselamatan publik, keamanan siber, stabilitas ekonomi, privasi, konsumen, dan dunia usaha sudah cukup untuk membenarkan tindakan legislatif segera di kotanya. Pemicunya adalah peringatan dari pelapor internal dan eksekutif AI serta laporan bahwa agen AI yang lepas kendali sudah menimbulkan kerusakan pada basis data pemerintah. SpaceXAI sendiri lahir pada Februari 2026 dari penggabungan SpaceX dan xAI, perusahaan yang juga memiliki X dan chatbot Grok, dan kini tercatat sebagai salah satu perusahaan AI terbesar di pasar Amerika Serikat.

Isi rancangan aturannya sudah dipublikasikan dewan pada 25 September dan jauh lebih spesifik daripada debat AI di tingkat federal. Rancangan Introduction 2602 melarang setiap pelaku usaha memasarkan, menjual, atau menyebarkan sistem AI di kota itu tanpa validasi pihak ketiga, dengan validator yang wajib memeriksa kualitas data, bias, keluaran keputusan, privasi data, dan keamanan, serta mengungkapkan potensi konflik kepentingan. Rancangan yang sama mewajibkan setiap sistem AI memiliki tombol mati berupa mekanisme pengesampingan oleh manusia, dan validator harus memverifikasi keberadaannya. Dendanya 25.000 dolar AS per pelanggaran, dikenakan kepada pelaku usaha maupun validatornya, termasuk bila validasi dipalsukan.

Tiga rancangan lain melengkapi paket itu. Introduction 2605 mengusulkan program insentif bagi pelapor internal yang mengungkap pelanggaran, dengan imbalan bagian dari denda yang dipulihkan, sebuah pendekatan yang disebut dewan sebagai yang pertama di tingkat kota di Amerika Serikat. Introduction 2600 membuka jalur gugatan perdata bagi individu yang dirugikan oleh penyalahgunaan atau penembusan pengaman AI, dengan syarat kerugiannya dapat diperkirakan sebelumnya dan perusahaan gagal menerapkan perlindungan yang wajar. Introduction 2601 mewajibkan kontraktor kota melaporkan setiap insiden keselamatan AI kepada Office of Cyber Command dalam 24 jam, dan mewajibkan kantor itu mempublikasikan laporan tersebut dalam waktu yang sama.

Bagi pembaca yang menjual atau membeli solusi AI, tiga hal dari paket ini layak dicatat sejak sekarang. Pertama, validasi berpindah dari klaim vendor ke pihak ketiga yang bisa dituntut, sehingga dokumentasi uji dan jejak audit menjadi bagian dari syarat jual, bukan pelengkap. Kedua, tombol mati diperlakukan sebagai fitur wajib yang harus diverifikasi, bukan opsi teknis. Ketiga, kewajiban lapor 24 jam memaksa instrumen pemantauan sudah hidup sebelum insiden terjadi, bukan dipasang setelah ada masalah. Pola tiga hal ini kemungkinan besar akan menular ke yurisdiksi lain, termasuk lewat syarat pengadaan di sektor keuangan.