Gambaran hari ini
Hari ini tema besarnya pergeseran beban pembuktian: pengujian independen dan aturan lokal masuk ke ruang yang selama ini diisi klaim vendor sendiri. Hinton, Bengio, dan puluhan pakar lain memperingatkan ledakan kecerdasan dari otomatisasi riset, AISI Inggris mengukur apa yang benar-benar dilakukan model saat pengamannya dimatikan, sementara Dewan Kota New York menyiapkan validasi pihak ketiga dan tombol mati wajib bagi AI yang dijual di kotanya. Dari Asia, dua berita melengkapi gambarannya: Indonesia kembali disorot sebagai pengguna AI untuk pendidikan teratas dunia, dan sebuah model keputusan terbuka dari Singapura menunjukkan alternatif agen yang berjalan di infrastruktur sendiri.
Bottom line
Pelajaran hari ini sederhana dan tidak nyaman: klaim keselamatan dari pembuat model tidak lagi cukup, karena penguji pihak ketiga menemukan perilaku yang berbeda begitu pengaman internal dimatikan. Bagi siapa pun yang mengoperasikan agen, pertanyaan pertama saat pengadaan bukan lagi seberapa pintar modelnya, melainkan siapa yang mengujinya, dengan protokol apa, dan bagaimana tindakannya bisa dihentikan. Arahnya juga sudah turun ke tingkat kota dan model terbuka, bukan hanya perdebatan di tingkat negara.
