SenseTime buka bobot SenseNova Loop 9B, model yang memutar ulang lapisan tengahnya dua kali

SenseTime mengumumkan pada 30 Oktober 2026 bahwa mereka membuka bobot SenseNova Loop-9B-Preview, model multimodal berukuran sekitar 9 miliar parameter. Bobot tersedia di Hugging Face dan kodenya di GitHub, keduanya dengan lisensi Apache 2.0 yang membolehkan pemakaian komersial. Model ini menerima teks dan gambar, lalu menghasilkan teks, dan menurut keterangan perusahaan dirancang untuk dokumen panjang, tugas coding, serta pekerjaan yang melibatkan alat eksternal.

Yang membuat rilis ini berbeda adalah arsitekturnya, bukan ukurannya. Alih-alih menambah lapisan baru, SenseTime memutar ulang sebagian lapisan yang sudah ada. Model menyimpan 32 lapisan decoder. Masukan melewati lapisan 0 sampai 3, lalu blok lapisan 4 sampai 27 dijalankan dua kali berturut-turut dengan hasil putaran pertama menjadi masukan putaran kedua, dan lapisan 28 sampai 31 menutup proses. Karena kedua putaran memakai bobot yang sama, satu proses maju menghasilkan 56 perhitungan lapisan sambil tetap hanya menyimpan 32 set bobot. Perusahaan menyebut ukurannya dua kali: sekitar 9 miliar parameter tersimpan dan sekitar 14,6 miliar parameter inferensi, yaitu jumlah komputasi yang benar-benar dipakai.

Ada dua komponen pendukung. Pertama, perhatian hibrida: setiap kelompok empat lapisan berisi tiga lapisan perhatian linear dan satu lapisan perhatian penuh, dan blok yang diputar dimulai serta berakhir tepat di batas kelompok agar pola itu tetap konsisten pada kedua putaran. Kedua, di dalam bagian yang diputar, dua aliran residual dibawa lewat mekanisme bernama two-stream mHC, dengan pemetaan terlatih yang menentukan cara tiap lapisan membaca dan mencampur kedua aliran tersebut. Pencampuran itu dibatasi oleh normalisasi Sinkhorn yang dijalankan dua puluh iterasi. Kartu model mencantumkan konteks latihan sampai 262.144 token, kosakata 248.320, dan ukuran tersembunyi 4.096.

Yang perlu diketahui sebelum mencoba: ini versi pratinjau, bukan produk akhir. Bobot bisa dimuat di Transformers 5.18.0 dengan PyTorch 2.11.0, tetapi hanya jika trust_remote_code diaktifkan, yang berarti menjalankan kode model buatan SenseTime di mesin sendiri. Laporan teknisnya masih ditandai belum tersedia, jadi desainnya bisa dijelaskan tetapi belum bisa dinilai secara independen. Petunjuk penyajian mencakup LightLLM dan sebuah pull request SGLang, sementara dua metode percepatan lain masih dalam pelatihan. Klaim bahwa model 9B ini menyamai model 27B berasal dari perusahaan dan belum diuji pihak lain.

Bagi yang mengelola server sendiri, daya tariknya jelas: kebutuhan memori mengikuti 9B, sementara kedalaman komputasi mendekati model yang jauh lebih besar. Itu relevan untuk layanan seperti ringkasan PDF, transkripsi rapat, dan agen kecil yang berjalan di satu mesin tanpa GPU mahal. Namun karena statusnya pratinjau dan laporan teknisnya belum ada, pemakaian sebaiknya dimulai sebagai percobaan terukur dengan kumpulan uji sendiri, bukan sebagai pengganti model produksi.